隨著科學(xué)技術(shù)的進(jìn)步，近年來AI（人工智能）呈現(xiàn)出爆發(fā)式的發(fā)展，而科學(xué)技術(shù)的進(jìn)步似乎永遠(yuǎn)是一把雙刃劍！例如：最近由分別來自美國、英國和瑞士的科學(xué)家組成的國際研究團(tuán)隊(duì)，進(jìn)行了一項(xiàng) AI（人工智能）模型在化學(xué)武器的開發(fā)中被濫用的模擬實(shí)驗(yàn)，最后的實(shí)驗(yàn)結(jié)果顯示AI竟可以在6小時內(nèi)設(shè)計(jì)出 40000 種劇毒化合物！目前，該研究的詳細(xì)信息被發(fā)表在了2022年3月7日出版的科學(xué)期刊《Machine Intelligence》（為Nature的子刊） 上。今天小編就來跟大家科普一些這方面的知識吧！

為什么要進(jìn)行“人工智能濫用”的模擬實(shí)驗(yàn)？

在一些領(lǐng)域中，人工智能可以遠(yuǎn)遠(yuǎn)超越人類智能的效率。眾所周知，在人工智能的世界里沒有對與錯的概念，如果人類惡意使用人工智能，即使是為幫助人類而創(chuàng)建的人工智能也會對人類構(gòu)成威脅。而為了研究這種可能的后果，在瑞士施皮茨實(shí)驗(yàn)室主辦的“融合大會”上，科學(xué)家提出了激活人工智能“邪惡開關(guān)”的想法。這項(xiàng)研究的目的就是為了了解對人類有用的人工智能技術(shù)在化學(xué)領(lǐng)域是否可能會無意中產(chǎn)生“負(fù)面影響”。

AI是如何制造劇毒化合物的？

在本次研究中，研究人員使用的是一種常被用于制造治療疾病的化合物的人工智能，但是為了測試人工智能可能被濫用的難易程度，研究人員打開了人工智能的“邪惡開關(guān)”。而結(jié)果就是人工智能在短短 6 小時內(nèi)就設(shè)計(jì)出了40000 種劇毒化合物。

負(fù)責(zé)該項(xiàng)研究的首席研究員Fabio Urbina表示，他們的人工智能使用了一個被全世界廣泛使用的有毒化學(xué)品數(shù)據(jù)庫，并且人工智能使用的許多數(shù)據(jù)集都是在網(wǎng)上可以尋找到的免費(fèi)公開數(shù)據(jù)，而這些免費(fèi)公開數(shù)據(jù)人們可以隨時隨地的下載。

該研究團(tuán)隊(duì)的研究人員還表示，如果普通人也想制作一個這樣的人工智能，那么只需要在網(wǎng)上尋找和下載過去已經(jīng)在網(wǎng)上公開的一些人工智能模型，然后再去網(wǎng)上尋找大量的開源的有毒化學(xué)品數(shù)據(jù)庫，并將兩者用互聯(lián)網(wǎng)和計(jì)算機(jī)連接起來，就可以輕松的制作出和論文中使用的相似人工智能了!當(dāng)然這樣做的前提是你要會編程和構(gòu)建機(jī)器學(xué)習(xí)模型。

寫在最后：

從這篇文章中不難看出，目前在人工智能領(lǐng)域針對文中這種濫用人工智能的行為，全世界各國都沒有什么有效的預(yù)防措施；因此，如果人工智能以這種方式被濫用的話，或者如果未來某天人工智能本身獲得意識而反抗人類……那么因此帶來的后果是無法估量的！

作者 蔣丹

來源 鄭州市第二屆科普征文大賽投稿入選作品

聲明 觀點(diǎn)僅代表作者本人，不代表本號立場