緊急呼吁監管AI 避免“滅絕風險”

350多名行業專家近日向美國國會發出一封聯名簽署的公開信，呼吁對人工智能（AI）進行緊急監管，將其當作“與瘟疫和核武器一樣的全球優先事項”，以避免人工智能“帶來滅絕風險”。

最新的公開信只有22個字，由OpenAI首席執行官奧特曼發起。

據報道，最新的公開信只有22個字，由OpenAI首席執行官奧特曼（Sam Altman）發起，他是ChatGPT的創造者。

公開信由總部位于舊金山的非營利性人工智能安全中心(CAIS)發表，呼吁對人工智能（AI）進行緊急監管，將其當作“與瘟疫和核武器一樣的全球優先事項”。

加入奧特曼呼吁的還有人工智能領域的其他知名領導人，包括谷歌DeepMind的Demis Hassabis、Anthropic的Dario Amodei以及微軟和谷歌的管理人員。

三位所謂的“人工智能教父”中的兩位辛頓（Geoffrey Hinton）和本吉奧（Yoshua Bengio）參與了聯合呼吁，他們因在深度學習方面的工作而獲得2018年“圖靈獎”。

第三位人工智能教父Yann LeCun所在的Meta公司沒有簽署這封信。

埃隆·馬斯克和一群人工智能專家和行業高管在4月率先提出了人工智能潛在的社會風險。

馬斯克和1000多名行業專家呼吁暫停推進人工智能的“危險競賽”，稱在人類失去控制和它成為有知覺的“仇恨人類的物種”之前，需要進行更多風險評估。

專家認為，人工智能在2045年將達到“奇點”，即超越人類智慧。

他們認為，人工智能將達到“奇點”（singularity），這意味著它已經超越了人類的智慧，擁有了獨立的思維。

這時的人工智能將不再需要或聽取人類的意見，它將竊取核密碼，制造大瘟疫并引發世界大戰。

在其最簡單的形式中，人工智能是一個結合了計算機科學和強大的數據集以實現問題解決的領域。

該技術允許機器從經驗中學習，適應新的輸入并執行類似人類的任務。

人工智能的最新發展創造了一些工具，支持者稱這些工具可用于從醫療診斷到撰寫法律摘要的各種應用，但這引發了人們對該技術可能導致侵犯隱私的擔憂、權力誤導運動，以及“智能機器”自我思考的問題。

奧特曼本月接受了美國國會長達5個小時的質詢，討論ChatGPT和其他模型如何“重塑人類歷史”，他將其比作印刷機或原子彈。

在關于人工智能可能創造的未來的交流中，奧特曼看起來面紅耳赤，他承認他“最擔心”的是，使用他的技術可能對世界造成“重大傷害”。