AI可能滅絕人類？350多人簽了22字聲明，包括ChatGPT之父和AI教父

日前，已經有超過350名人工智能行業的人士聯合簽署了22字簡潔聲明。

多位頂級AI研究人員、工程師和首席執行官就AI對人類構成的生存威脅發出了最新警告：“減輕人工智能帶來的滅絕風險應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項?！?/p>

當地時間5月30日，這份只有22個單詞的聲明發布在非營利組織人工智能安全中心（Center for AI Safety）的網站上。該網站表示：人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的重要和緊迫的廣泛風險。即便如此，也很難表達對先進人工智能的一些最嚴重風險的擔憂。下面的簡潔聲明旨在克服這一障礙并展開討論。它還旨在為越來越多的專家和公眾人物提供常識，他們也認真對待先進人工智能的一些最嚴重風險。

超過350名從事人工智能工作的人士簽署了這份聲明。簽署者包括Google DeepMind首席執行官戴米斯·哈薩比斯（Demis Hassabis）、OpenAI首席執行官山姆·奧特曼（Sam Altman）、“AI教父”杰弗里·辛頓（Geoffrey Hinton）和約書亞·本希奧（Youshua Bengio）等，辛頓和本希奧因其在AI方面的工作獲得了2018年圖靈獎，一同獲得該獎項的AI大牛、Meta首席人工智能科學家楊立昆（Yann LeCun）尚未簽名。

其中一些簽署者，在今年早些時候簽署了另外一封公開信，呼吁“暫?！遍_發比GPT-4更高級的AI至少6個月，這封信在多個層面受到批評，一些專家認為它夸大了人工智能帶來的風險，而一些人則贊同存在這種風險，但不同意信中建議的措施。

人工智能安全中心執行主任丹·亨德里克斯（Dan Hendrycks）告訴《紐約時報》，5月30日的聲明很簡潔，沒有提出任何減輕人工智能威脅的潛在方法，旨在避免這種分歧。 “我們不想推動包含30種潛在干預措施的龐大菜單?！焙嗟吕锟怂拐f，“當這種情況發生時，它會淡化（想傳達的）信息?！?/p>