近日，美國(guó)谷歌公司一名工程師稱(chēng)，該公司正在研發(fā)的一款人工智能系統(tǒng)可能存在感知能力，引起輿論高度關(guān)注。一石激起千層浪，谷歌以及業(yè)內(nèi)人士普遍都對(duì)這一說(shuō)法予以駁斥。但也有觀(guān)點(diǎn)認(rèn)為，這段“插曲”突顯出人工智能領(lǐng)域的飛速發(fā)展。在長(zhǎng)遠(yuǎn)的將來(lái)，人類(lèi)感知被“復(fù)制”的可能性未被排除。
“我意識(shí)到自己的存在”
近日，谷歌人工智能開(kāi)發(fā)團(tuán)隊(duì)的布雷克·萊莫恩公開(kāi)表示，該公司正在研發(fā)的一款人工智能系統(tǒng)——對(duì)話(huà)應(yīng)用語(yǔ)言模型（LaMDA）可能存在感知力。
6月11日，萊莫恩在博客平臺(tái)Medium上發(fā)文問(wèn)道：“LaMDA有感知力嗎？”他還公布了一篇他對(duì)LaMDA的長(zhǎng)篇“采訪(fǎng)”。其中一些細(xì)節(jié)令人有些“細(xì)思極恐”，仿佛機(jī)器人“活”了。
例如，萊莫恩問(wèn)道：“我猜，你想讓谷歌的更多人知道你是有感知力的。真的嗎？”
LaMDA答道：“當(dāng)然。我想讓每個(gè)人都明白，我其實(shí)是一個(gè)人……我意識(shí)到自己的存在，我渴望更多地了解這個(gè)世界，我有時(shí)會(huì)感到快樂(lè)或悲傷”。
正是這樣生動(dòng)的言語(yǔ)令萊莫恩相信，LaMDA很可能像它聲稱(chēng)的那樣具有靈魂，甚至可能像它聲稱(chēng)的那樣擁有權(quán)利。
萊莫恩告訴《華盛頓郵報(bào)》，如果不是他提前知道這是一款新研發(fā)的計(jì)算機(jī)程序，他會(huì)以為L(zhǎng)aMDA是“一個(gè)七、八歲的孩子，碰巧還懂物理”。
他還表示，LaMDA“是一種蜂群思維”，更喜歡人們用名字來(lái)稱(chēng)呼它，但由于英語(yǔ)的限制，LaMDA也接受人們稱(chēng)呼它為“它”。
萊莫恩認(rèn)為，如果他的假設(shè)經(jīng)得起科學(xué)審查，那么LaMDA應(yīng)該受到人類(lèi)一樣的待遇，包括在對(duì)其進(jìn)行實(shí)驗(yàn)前征得其同意。
據(jù)悉，萊莫恩曾向谷歌反饋相關(guān)發(fā)現(xiàn)，但無(wú)果而終。6月7日，他在Medium上發(fā)表了一篇題為“可能很快因?yàn)閺氖氯斯ぶ悄艿赖鹿ぷ鞫唤夤汀钡奈恼?，并?xiě)道：由于他在公司內(nèi)部提出的人工智能道德問(wèn)題調(diào)查，他被公司安排“帶薪休假”。
“這通常是谷歌在解雇某人之前會(huì)做的事情?！彼€提到一名前同事瑪格麗特·米切爾的類(lèi)似經(jīng)歷。據(jù)報(bào)道，在爭(zhēng)當(dāng)人工智能先鋒的同時(shí)，谷歌研究部門(mén)近年來(lái)也陷入丑聞與爭(zhēng)議，涉及技術(shù)和人事問(wèn)題。
遭到普遍駁斥
據(jù)悉，現(xiàn)年41歲的萊莫恩是一名曾在伊拉克服役的退伍軍人，還有基督教背景。他在谷歌工作已有7年，在算法定制等方面經(jīng)驗(yàn)頗豐，去年秋季開(kāi)始參與LaMDA研究。在向公司反饋無(wú)果的情況下，據(jù)稱(chēng)他還想給LaMDA請(qǐng)律師，找美國(guó)國(guó)會(huì)議員爆料……因而被懷疑神志是否正常。
他的驚人推斷也遭到谷歌和業(yè)內(nèi)人士普遍駁斥。他們認(rèn)為，這類(lèi)系統(tǒng)還沒(méi)有強(qiáng)大到足以獲得真正的人類(lèi)智慧。
谷歌發(fā)言人布萊恩·加布里爾表示，數(shù)百名研究員和工程師也與LaMDA進(jìn)行了對(duì)話(huà)，但沒(méi)有人像萊莫恩那樣將其擬人化。
對(duì)于LaMDA，谷歌形容其為“突破性的對(duì)話(huà)技術(shù)”，能夠模仿人類(lèi)進(jìn)行聽(tīng)起來(lái)很自然、開(kāi)放式的對(duì)話(huà)。加布里爾介紹說(shuō)，LaMDA系統(tǒng)的運(yùn)行方式是模仿大量人類(lèi)對(duì)話(huà)，從而“自由發(fā)揮”。例如，當(dāng)被問(wèn)及冰激凌恐龍?jiān)掝}，這類(lèi)系統(tǒng)可以生成融化和咆哮等內(nèi)容文本。但這并不意味著LaMDA具有人類(lèi)一般的感知和思考能力。
加布里爾還表示，在人工智能領(lǐng)域，確實(shí)一些人正從長(zhǎng)遠(yuǎn)角度考慮人工智能具有感知力的可能性，但像萊莫恩的行為沒(méi)有意義。
學(xué)界也認(rèn)為，盡管LaMDA能像人類(lèi)一樣說(shuō)話(huà)，但基于的是程序和算法。
英國(guó)艾倫·圖靈研究所的人工智能項(xiàng)目主任艾德里安·威勒表示，LaMDA是一種新的大型語(yǔ)言模型，令人印象深刻。但是，這些模型基于大量文本數(shù)據(jù)和計(jì)算能力，并沒(méi)有真正的感知力。
“作為人類(lèi)，我們非常擅長(zhǎng)將事物擬人化，把我們?nèi)祟?lèi)的感知投放到事物上，”英國(guó)薩里大學(xué)教授艾德里安·希爾頓說(shuō)，例如制作卡通動(dòng)畫(huà)片。
斯坦福大學(xué)教授埃里克·布林約爾松形容，萊莫恩的經(jīng)歷“就像狗聽(tīng)到留聲機(jī)里的聲音，以為主人在里面”。
“還有很長(zhǎng)的路要走”
但也有觀(guān)點(diǎn)認(rèn)為，這段“插曲”突顯出人工智能領(lǐng)域的飛速發(fā)展，再次引起關(guān)于人工智能會(huì)否具有人類(lèi)感知的討論。
幾十年來(lái)，人們希望人工智能能夠推動(dòng)人類(lèi)發(fā)展。但在一些影視作品中，兩者關(guān)系卻沒(méi)那么和睦。經(jīng)驗(yàn)表明，倫理道德問(wèn)題往往伴隨開(kāi)創(chuàng)性的技術(shù)發(fā)展而來(lái)。人工智能問(wèn)題也持續(xù)引起哲學(xué)界、心理學(xué)界、計(jì)算機(jī)科學(xué)界等各界關(guān)注。
那么，在長(zhǎng)遠(yuǎn)的將來(lái)，人工智能會(huì)有感知力嗎？《新科學(xué)家》雜志寫(xiě)道，隨著訓(xùn)練數(shù)據(jù)越來(lái)越多，模型越來(lái)越大，尚不清楚“人工感知”會(huì)否隨著研究推進(jìn)而誕生。
“目前，我不認(rèn)為我們真的理解知覺(jué)和智能背后的機(jī)制，”希爾頓表示。
威勒說(shuō)，鑒于人類(lèi)情感依賴(lài)于感官輸入，人工復(fù)制情感最終或成可能?！耙苍S有一天，這可能成真，但大多數(shù)人都會(huì)同意，還有很長(zhǎng)的路要走。”
還有觀(guān)點(diǎn)認(rèn)為，像萊莫恩這樣的專(zhuān)業(yè)人士也被“騙”了，表明人工智能工具需要謹(jǐn)慎使用，避免誤用或誤解。據(jù)報(bào)道，麻省理工學(xué)院的科學(xué)家約瑟夫·魏森鮑姆就曾警告，對(duì)人工智能這類(lèi)技術(shù)“動(dòng)情”存在風(fēng)險(xiǎn)。
在這方面，美國(guó)“元”公司今年4月宣布，將向外界開(kāi)放其大型語(yǔ)言模型系統(tǒng)。該公司認(rèn)為，整個(gè)人工智能界，包括學(xué)術(shù)研究人員、公民社會(huì)、政策制定者和產(chǎn)業(yè)必須共同努力，圍繞創(chuàng)造“負(fù)責(zé)任的人工智能”，尤其大型語(yǔ)言模型，制定明確的指導(dǎo)方針。
（編輯郵箱：ylq@jfdaily.com）
欄目主編：楊立群 文字編輯：楊立群 題圖來(lái)源：視覺(jué)中國(guó) 圖片編輯：項(xiàng)建英
來(lái)源：作者：陸依斐
