通常好消息與壞消息齊來,咁就會問想聽好消息還是壞消息先?喜歡先苦後甜都會話先聽壞消息,而貪快的人都會先聽好消息。
咁今天的好消息係咩呢?
突然間智能電話傳來一則Now新聞「Anthropic多名研究員警告 AI在2030年前或令人類滅絕」,仲唔係好消息!唔夠四年人類就會滅絕,咁世界應該變得太平,但問題係沒有說出AI如何滅絕人類?或人類如何滅絕?
本來係好消息,結果成了壞消息。
點解會覺得唔會咁快滅絕?因為講出人類會在2030年前滅絕的幾名研究員已經辭咗職(詳見新聞報道),既然辭咗職,他們的警告根本不會成真。
Anthropic多名研究員警告 AI在2030年前或令人類滅絕
【Now新聞台】人工智能初創公司Anthropic多名研究員警告,人工智能將於2030年前令人類滅絕,其中一人更決定辭職。Anthropic回應指,繼續建立擁有強力保護措施的模型。
首先發聲的是曾在OpenAI當研究員的考克森,他在社交平台發文宣布辭去Anthropic工作,批評兩個前僱主皆未盡責任應對人工智能的威脅,只為擊敗其他競爭對手而專注研發能自我提升的「超級智能」,以人類生命作賭注,又聲言開發人員真誠相信AI會在2030年前毀滅人類。他未有說明具體情況,但警告這項科技發展成超乎常人的強大系統,能入侵任何體系,瞬間改變任何領域獲取真正權力和資源。
他的帖文一夜間有過億人觀看,至少得到另外兩名Anthropic員工回應。自稱是公司協調部門負責人的胡賓格認同考克森的說法,認為AI在10年內毀滅人類的機率逾10%。自稱是公司可擴展性監督負責人的馬克斯亦支持末日預言,還稱越資深的員工越擔心。
開發Claude模型的Anthropic由OpenAI前員工創立,一向自詡為更注重安全的企業。它回應媒體查詢時表示,公司一直坦承AI同時帶來巨大好處和前所未有的風險,將繼續建立擁有強力保護措施的模型。
但回應未能平息美國跨黨派議員憂慮,共和黨參議員克魯茲形容AI構成災難性風險;獨立參議員桑德斯提出美國大多數人希望禁止AI發展,直至制定明確安全標準。






































