人工智能已到轉折點，要暫停一下嗎？

以前的股市，有個廣泛流傳的“擦鞋匠”理論，意思是如果連擦鞋匠都在對股市高談闊論，還給別人推薦股票，那一定離崩盤不遠了。如今擦鞋匠不容易找了，但的確滿城爭談GPT。與股市不一樣的是，人工智能不僅沒有崩盤之虞，反而正在掀起一場競賽。

人工智能正在以超人的速度向前發展。自從去年11月ChatGPT發布以來，我學會了如何防止過度烹煮三文魚。在同一時期，OpenAI的聊天機器人學會了怎樣瞬間將一張手繪草圖變成一個可運行網站，在60秒內建立一個類似經典游戲Pong的視頻游戲，在律師考試中獲勝，并根據留在冰箱中的食物的照片生成食譜。人工智能尤其讓人聯想到思維機器的概念。但沒有機器可以思考，也沒有軟件是真正智能的。

雖然我并不相信ChatGPT有智能——大型語言模型并不產生真正的知識，只是給人一種智能的錯覺，但還是要說，OpenAI的ChatGPT、谷歌的Bard和微軟的Sydney是機器學習的奇跡。粗略地說，它們獲取大量的數據，在其中尋找模式，并越來越熟練地生成統計學上的可能輸出結果——比如看似人類的語言和思想。這些程序被譽為通用人工智能（AGI）地平線上的第一道曙光——那是一個長期預言的時刻，機器人思維不僅在處理速度和內存大小方面超過人類大腦，而且在智力洞察力、藝術創造力和其他各種獨特的人類能力方面也超過人類大腦。

3月22日，來自微軟的研究人員在arXiv上發表的一篇新論文聲稱，“除了對語言的掌握，GPT-4還能解決新穎而困難的任務，這些任務涉及數學、編碼、視覺、醫學、法律、心理學等等，不需要任何特殊的提示。此外，在所有這些任務中，GPT-4的表現都驚人地接近人類水平，而且往往大大超過了ChatGPT等先前的模型。鑒于GPT-4能力的廣度和深度，我們認為可以合理地將其視為AGI系統的早期（但仍不完整）的版本”。

在過去30年里，少數產品真正顛覆了科技行業，使之前的產品看起來像笨重的恐龍。ChatGPT是可以媲美這些劃時代產品的東西，就像智能手機和社交網絡剛出現時一樣。

首先，ChatGPT是普通大眾對現代人工智能變得多么強大的第一次親身經歷。多年來，像Siri和Alexa這樣的虛擬助手，也使用人工智能，但它們是笑話的焦點，因為其實并不特別有用。而ChatGPT的功能讓人驚艷，許多人正在認真考慮如何將這些工具融入他們的日常生活和職業。

到目前為止，人工智能應用的大部分進展都是在后臺。ChatGPT以更明顯的方式向消費者提供價值，而不僅僅是面向后端開發人員或數字營銷專業人士。由于該系統可以編程并執行其他業務任務，它降低了很多事情的門檻，同時提升了專家的生產率，處于令工作的本質發生轉變的臨界點。

其次，ChatGPT的擬人化也給流行幫了大忙。使用最先進的AI算法之一向最新的聊天機器人問好，你會不時地想知道你是在使用 ChatGPT與人還是同聊天機器人交談。它顯然是有記憶的，機器人可以回憶起之前在對話中發表的評論并將其復述給你。根據許多用戶的報告，不論是ChatGPT，還是微軟整合ChatGPT之類基于語言的AI技術打造的必應機器人Sydney，似乎在聊天過程中還顯示了情感。

社會科學研究表明，人們傾向于像對待人類一樣與技術互動。ChatGPT之所以面向全社會大規模測試，目標是向 OpenAI 提供用戶反饋，以便改進算法。通過被稱為 RLHF（從人類反饋中強化學習）的過程生成的文本更容易被人類評價。

第三，ChatGPT帶來了我們內心深處的一種恐懼——如果人工智能改進得如此之快，有誰的工作是安全的，我們何時會被機器人大規模取代？“人工智能通過美國醫師執照考試?！薄氨M管ChatGPT表現平平，但還是通過了法學院的考試?！薄癈hatGPT會得到沃頓商學院的MBA嗎？”諸如此類的標題最近都在吹捧（而且常?？浯螅〤hatGPT的成功，這遵循了將人工智能的能力與人類專家進行比較的悠久傳統，例如AlphaGo在2016年的圍棋大賽中擊敗李世石。最近這些頭條新聞隱含的潛臺詞是更加危言聳聽：人工智能正在為你的工作而來。

我們已經達到了人工智能的轉折點，現在是一個暫停和評估的好時機。我們如何才能合乎道德和安全地、并且不失人類尊嚴地使用這些工具？《控制論》的作者維納說過：“第一次工業革命，即‘黑暗的撒旦工廠’的革命，是機械的競爭使人的手臂貶值……現代工業革命同樣注定要貶低人腦的價值，至少在更簡單和更常規的決定中是如此?！比四X貶值的時代來臨了嗎？

機器會不會讓大多數人變得多余？還是會使所有人有更多的自由時間和更充實的生活？當人工智能最終到來，維納認為“答案是建立一個基于人類價值而非買賣的社會”。