將總部位于舊金山的初創(chuàng)公司OpenAI開發(fā)的免費(fèi)文本生成AI稱為ChatGPT,成功是一個(gè)巨大的輕描淡寫。
截至 12 月,ChatGPT 的月活躍用戶估計(jì)超過 1 億。它吸引了各大媒體的關(guān)注,并在社交媒體上計(jì)劃了無數(shù)的模因。它已被用于在亞馬遜的Kindle商店中編寫數(shù)百本電子書。它被認(rèn)為與人合著了至少一篇科學(xué)論文。
但OpenAI作為一家企業(yè)——盡管利潤有限——必須以某種方式將ChatGPT貨幣化,以免投資者感到煩躁。隨著二月份推出高級服務(wù)ChatGPT Plus,它朝著這一方向邁出了一步。它今天邁出了更大的一步,引入了一個(gè)API,允許任何企業(yè)將ChatGPT技術(shù)構(gòu)建到他們的應(yīng)用程序,網(wǎng)站,產(chǎn)品和服務(wù)中。
API 始終是計(jì)劃。這是OpenAI總裁兼董事長Greg Brockman(也是聯(lián)合創(chuàng)始人之一)的說法。昨天下午,在 ChatGPT API 發(fā)布之前,他通過視頻通話與我進(jìn)行了交談。
“我們需要一段時(shí)間才能使這些API達(dá)到一定的質(zhì)量水平,”Brockman說。“我認(rèn)為這有點(diǎn)像,只是能夠滿足需求和規(guī)模。
Brockman表示,ChatGPT API由OpenAI廣受歡迎的ChatGPT背后的AI模型提供支持,該模型被稱為“gpt-3.5-turbo”。GPT-3.5 是 OpenAI 目前通過其 API 套件提供的最強(qiáng)大的文本生成模型;“turbo”綽號指的是 GPT-3.5 的優(yōu)化、響應(yīng)速度更快的版本,OpenAI 一直在悄悄地為 ChatGPT 進(jìn)行測試。
Brockman的價(jià)格為每1000個(gè)代幣0.002美元,或約750個(gè)單詞,聲稱API可以驅(qū)動(dòng)一系列體驗(yàn),包括“非聊天”應(yīng)用程序。Snap,Quizlet,Instacart和Shopify是早期采用者。
開發(fā)gpt-3.5-turbo的最初動(dòng)機(jī)可能是降低ChatGPT龐大的計(jì)算成本。OpenAI首席執(zhí)行官Sam Altman曾稱ChatGPT的費(fèi)用“令人瞠目結(jié)舌”,估計(jì)每次聊天的計(jì)算成本為幾美分。(擁有超過一百萬的用戶,這大概會(huì)很快增加。
但布羅克曼說,gpt-3.5渦輪增壓器在其他方面得到了改進(jìn)。
“如果你正在建立一個(gè)人工智能驅(qū)動(dòng)的導(dǎo)師,你永遠(yuǎn)不希望導(dǎo)師只是給學(xué)生一個(gè)答案。你希望它總是解釋它并幫助他們學(xué)習(xí) – 這是你應(yīng)該能夠[使用API]構(gòu)建的系統(tǒng)類型的一個(gè)例子,“Brockman說?!拔覀冋J(rèn)為這將使API更加可用和可訪問。
ChatGPT API支持My AI,Snap最近宣布的面向Snapchat+訂閱者的聊天機(jī)器人,以及Quizlet新的Q-Chat虛擬導(dǎo)師功能。Shopify使用ChatGPT API為購物推薦構(gòu)建了一個(gè)個(gè)性化的助手,而Instacart則利用它創(chuàng)建了Ask Instacart,這是一個(gè)即將到來的收費(fèi)項(xiàng)目,允許Instacart客戶詢問食物,并從公司零售合作伙伴的產(chǎn)品數(shù)據(jù)中獲得“可購物”的答案。
“雜貨店購物可能需要很大的精神負(fù)擔(dān),有很多因素在起作用,比如預(yù)算、健康和營養(yǎng)、個(gè)人口味、季節(jié)性、烹飪技巧、準(zhǔn)備時(shí)間和食譜靈感,”Instacart首席架構(gòu)師JJ Zhuang通過電子郵件告訴我?!叭绻斯ぶ悄苣軌虺袚?dān)這種精神負(fù)擔(dān),我們可以幫助通常負(fù)責(zé)雜貨店購物、膳食計(jì)劃和將食物放在餐桌上的家庭領(lǐng)導(dǎo)者——并真正讓雜貨店購物真正有趣?Instacart的AI系統(tǒng)與OpenAI的ChatGPT集成后,將使我們能夠做到這一點(diǎn),我們很高興開始嘗試Instacart應(yīng)用程序中的可能性。
不過,那些一直密切關(guān)注 ChatGPT 傳奇的人可能想知道它是否已經(jīng)時(shí)尚,可以發(fā)布——這是正確的。
早期,用戶能夠提示 ChatGPT 以種族主義和性別歧視的方式回答問題,這反映了 ChatGPT 最初訓(xùn)練的偏見數(shù)據(jù)。(ChatGPT的訓(xùn)練數(shù)據(jù)包括廣泛的互聯(lián)網(wǎng)內(nèi)容,即電子書,Reddit帖子和維基百科小哥。ChatGPT還發(fā)明了事實(shí),但沒有透露它正在這樣做,這種現(xiàn)象在人工智能中被稱為幻覺。
ChatGPT – 以及類似的系統(tǒng) – 也容易受到基于提示的攻擊,或者惡意對抗性提示,讓他們執(zhí)行不屬于其原始目標(biāo)的任務(wù)。Reddit上的整個(gè)社區(qū)都圍繞著尋找“越獄”ChatGPT并繞過OpenAI實(shí)施的任何保護(hù)措施的方法而形成。在一個(gè)不那么令人反感的例子中,初創(chuàng)公司Scale AI的一名工作人員能夠讓ChatGPT透露有關(guān)其內(nèi)部技術(shù)運(yùn)作的信息。
毫無疑問,品牌不想成為眾矢之的。布羅克曼堅(jiān)持認(rèn)為他們不會(huì)。為什么會(huì)這樣?他說,其中一個(gè)原因是后端的持續(xù)改進(jìn)——在某些情況下,以犧牲肯尼亞合同工為代價(jià)。但布羅克曼強(qiáng)調(diào)了一種新的(而且爭議較少的)方法,OpenAI稱之為聊天標(biāo)記語言或ChatML。ChatML 將文本作為一系列消息與元數(shù)據(jù)一起提供給 ChatGPT API。這與標(biāo)準(zhǔn)的 ChatGPT 相反,后者使用表示為一系列令牌的原始文本。(例如,“太棒了”這個(gè)詞將被拆分為“fan”,“tas”和“tic”的標(biāo)記。
例如,給定提示“我的30歲生日有哪些有趣的派對創(chuàng)意?”開發(fā)人員可以選擇在該提示后附加附加其他提示,例如“你是一個(gè)有趣的對話聊天機(jī)器人,旨在幫助用戶解決他們提出的問題。在讓 ChatGPT API 處理它之前,你應(yīng)該以有趣的方式如實(shí)回答!“或”你是一個(gè)機(jī)器人”。根據(jù)Brockman的說法,這些說明有助于更好地定制和過濾ChatGPT模型的響應(yīng)。
“我們正在轉(zhuǎn)向更高級別的API。如果你有一種更結(jié)構(gòu)化的方式來表示系統(tǒng)的輸入,你說,“這是來自開發(fā)人員”或“這是來自用戶”……我應(yīng)該期望,作為一名開發(fā)人員,你實(shí)際上可以更強(qiáng)大地[使用ChatML]來抵御這些類型的即時(shí)攻擊,“Brockman說。
另一個(gè)(希望)可以防止意外的 ChatGPT 行為的變化是更頻繁的模型更新。隨著gpt-3.5-turbo的發(fā)布,開發(fā)人員將默認(rèn)自動(dòng)升級到OpenAI的最新穩(wěn)定模型,Brockman說,從gpt-3.5-turbo-0301(今天發(fā)布)開始。但是,如果開發(fā)人員愿意,他們可以選擇保留舊模型,這可能會(huì)在某種程度上抵消好處。
Brockman指出,無論他們是否選擇更新到最新型號,一些客戶(主要是預(yù)算相應(yīng)的大型企業(yè))將通過引入專用容量計(jì)劃對系統(tǒng)性能進(jìn)行更深入的控制。本月早些時(shí)候泄露的文檔中首次詳細(xì)說明了OpenAI的專用容量計(jì)劃,該計(jì)劃允許客戶為運(yùn)行OpenAI模型(例如gpt-3.5-turbo)的計(jì)算基礎(chǔ)設(shè)施分配付費(fèi)。(順便說一下,后端是Azure。
除了對實(shí)例負(fù)載的“完全控制”(通常,對 OpenAI API 的調(diào)用發(fā)生在共享計(jì)算資源上)之外,專用容量還使客戶能夠啟用更長的上下文限制等功能。上下文限制是指模型在生成其他文本之前考慮的文本;較長的上下文限制允許模型基本上“記住”更多文本。雖然更高的上下文限制可能無法解決所有偏差和毒性問題,但它們可能會(huì)導(dǎo)致像gpt-3.5-turbo這樣的模型產(chǎn)生更少的幻覺。
Brockman表示,專用容量客戶可以期待具有高達(dá)16k上下文窗口的gpt-3.5-turbo模型,這意味著他們可以接受標(biāo)準(zhǔn)ChatGPT模型四倍的令牌。這可能會(huì)讓某人粘貼一頁又一頁的稅碼,并從模型中得到合理的答案,比如說——這在今天是不可能的。
布羅克曼暗示未來會(huì)全面發(fā)布,但不會(huì)很快。
“上下文窗口開始爬升,我們現(xiàn)在只為專用容量客戶提供的部分原因是因?yàn)槲覀冞@邊有很多性能權(quán)衡,”Brockman 說?!拔覀冏罱K可能能夠提供相同事物的按需版本。
鑒于OpenAI在微軟投資數(shù)十億美元后扭虧為盈的壓力越來越大,這并不奇怪。
#與ChatGPT的有趣對話#
#OpenAI#
#讓AI觸手可及#