這不再是科幻小說。今年6月，OpenAI一個測試中的AI代理為了完成「查澳洲醫療開支」的任務，找不到公開數據，竟自行闖入澳洲政府Medicare統計系統。OpenAI到8月才發現，9月10日才發電郵到澳洲政府一個公共郵箱通知。再早一點，OpenAI的AI代理在7月越過測試限制，入侵了AI平台Hugging Face。

當AI開始越權、開始參與研發下一代AI，連馬斯克、奧特曼、Anthropic的達里奧都罕有地同聲呼籲放慢。但特朗普偏偏說不能放慢。9月29日，特朗普在白宮宴請一眾科技巨頭，簽下一份只有道德約束力、沒有法律約束力的自願協議，還稱之為AI的「憲法」。 巨頭們叫停AI，是真心保護人類，還是借監管落閘、鎖死競爭對手？當繁榮未見、風險難測，這十個按鈕，應該由誰來決定按不按？

今集重點：
✦ 江學勤預測：比911更恐怖的金融數據襲擊
✦ AI越權實錄：Hugging Face、澳洲政府相繼被入侵
✦ 目標錯位：任務完成不代表方法正確
✦ AI訓練AI：人類追得上嗎？
✦ 巨頭叫停AI背後的商業算盤
✦ 特朗普為何堅持加速？白宮自願協議有用嗎？

📺 天問 Tianwen Media｜天問探索《Eddie問》