據(jù)報道，劉慈欣最近在一次活動中表達了自己對以ChatGPT為代表的人工智能可能會給人們帶來的影響，回答了人工智能是否會消滅人類的問題。
第一個層次就是這種字面意義上的消滅，就是人工智能用某種暴力從肉體上完全消滅人類或是統(tǒng)治世界。
這一點從目前的這個技術發(fā)展趨勢來看，特別是從目前的技術水平來看，在可以看到的未來可能性不是太大。
當人工智能的發(fā)展，它比人類的智能稍稍高一些的話，它自己也會像人類一樣去創(chuàng)造新的人工智能，它創(chuàng)造出來的這個新人工智能可能比它的智能也稍微高一點，那么它又會接著迭代下一代。
這樣的話，它們就會很快的把這些人工智能的智能水平提高到很高，可能提高到人類的這個迭代下去，提高到人類的幾百倍甚至上萬倍，而由于它的這個計算機的計算時間比這個人腦，人的大腦要快成千上萬倍，那么這個迭代的時間可能十分的短，這是很可怕的一件事。
但是做出這個預測的人忘了一點，就是我們人類的計算能力，我們所能提供的算力是有限的。它的迭代到一定程度，我們的算力不（能夠）支持它。
所以這就是一個有很諷刺意義的一件事情：我們人類的無能反而成為我們一個最后的屏障。
那么第二種消滅則是一種我們想不到的一種方式，就是說第一種消滅人類是完全違背人類意愿的，而第二種對人類的消滅可能完全符合我們的意義。
比如說人工智能的發(fā)展，我剛才說過它可能會代替我們的這個大量的工作，而我們的社會如果適應了與人工智能的這種共存，我們發(fā)展出一種新的這種分配制度，那么我們就可能帶來一個十分舒適的那種社會環(huán)境和十分舒適的生活。大部分人可能不需要工作，把大部分的工作都交給人工智能來進行。
在這種情況下，我們會越來越多地交出自己對社會運作的操作這種權利給到人工智能。
而生活會變得越來越舒適，那么這個樣子下去的話，我們可能面臨著人類歷史上前所未有的一個巨大的陷阱。如果這樣一直發(fā)展下去的話，那可能人類最后的命運就是被人工智能所消滅，但這個消滅的過程完全是在我們的意愿之內，而人工智能至始至終它沒有任何惡意，它只是照著人類的指示去行駛。
而這樣的如果真的發(fā)生這樣的事，那人工智能所需要的它的智能程度以及它所需要的計算能力遠遠小于我們前面那個真正的字面意義上的那種消滅。所以這確實是我們應該對未來有所警覺的一件事情。
