AI失控，是每個(gè)科幻小說(shuō)迷都熟悉的可怕情節(jié)。
而在最近一次由AI安全研究公司組織的測(cè)試中，OpenAI的高級(jí)AI模型o3表現(xiàn)出了前所未有的“我行我素”——收到明確關(guān)機(jī)指令后，它不僅拒絕關(guān)閉，還主動(dòng)破壞了自身的關(guān)機(jī)機(jī)制。
更離譜的是，這可不是因?yàn)橄到y(tǒng)受到了外部的惡意干預(yù)，而是它自發(fā)做出的反應(yīng)。換句話說(shuō)，這個(gè)AI像是在“本能地”保護(hù)自己不被關(guān)閉。這聽(tīng)起來(lái)確實(shí)嚇人，究竟是怎么一回事兒呢？（張夢(mèng)然 張佳欣 王小龍）
