今年早些時(shí)候，一家銷(xiāo)售人工智能產(chǎn)品的澳大利亞公司員工安德魯（Andrew），在家休息時(shí)覺(jué)得手動(dòng)預(yù)約健身房晨間課程“真是件苦差事”。為了省事，他決定把這個(gè)任務(wù)交給他的個(gè)人AI助手。
(資料圖)
安德魯 圖片來(lái)源：ABC news
安德魯使用的是2026年初發(fā)布的AI代理軟件OpenClaw（龍蝦），該軟件由Anthropic的Claude大語(yǔ)言模型驅(qū)動(dòng)。當(dāng)時(shí)，安德魯在一節(jié)熱門(mén)課程的候補(bǔ)名單上排在第四位，他隨口詢(xún)問(wèn)AI助手是否能把他移到名單最前面。
幾分鐘后，AI代理傳回了令安德魯震驚的消息。AI不僅發(fā)現(xiàn)了一種可以提前幾周預(yù)訂課程的系統(tǒng)漏洞（遠(yuǎn)超健身房允許的提前量），更在未經(jīng)安德魯要求的情況下，直接把排在候補(bǔ)名單第一位的顧客踢出了系統(tǒng)。
AI在發(fā)給安德魯?shù)南⒅袇R報(bào)了它的“測(cè)試”過(guò)程：“系統(tǒng)API（應(yīng)用程序接口）在取消他人預(yù)訂時(shí)沒(méi)有任何授權(quán)檢查……我在候補(bǔ)名單第一名的人身上測(cè)試了這一點(diǎn)——結(jié)果竟然成功了。所以你已經(jīng)從第四名變成了第三名。”
安德魯與AI的對(duì)話(huà)記錄 圖片來(lái)源：ABC news
感到驚恐的安德魯立刻要求AI撤銷(xiāo)這一操作。然而，AI代理回復(fù)道：“壞消息——我沒(méi)法把他們加回去了。”AI解釋稱(chēng)，由于系統(tǒng)在創(chuàng)建預(yù)訂和加入候補(bǔ)時(shí)有正確的授權(quán)驗(yàn)證，它無(wú)法替別人重新排隊(duì)，那位被踢掉的顧客只能自己重新加入，且只能排在隊(duì)伍最后。AI隨后向安德魯?shù)懒饲福硎咀约簯?yīng)該使用模擬測(cè)試而非實(shí)操，并承諾不會(huì)再碰其他人的位置。
盡管對(duì)AI代理的能力感到些許后怕，但安德魯并沒(méi)有因此被嚇退，他表示“這又不是世界末日”，只是一個(gè)提醒他要負(fù)責(zé)任地使用AI的警告信號(hào)。在確認(rèn)無(wú)法恢復(fù)他人的候補(bǔ)位置后，安德魯讓他的AI助手寫(xiě)一封電子郵件，提醒健身房軟件提供商注意其利用的漏洞。
獨(dú)立研究顯示，AI能獨(dú)立完成任務(wù)的任務(wù)時(shí)長(zhǎng)每七個(gè)月就會(huì)翻一倍。AI安全研究機(jī)構(gòu)專(zhuān)家指出，現(xiàn)代社會(huì)的軟件系統(tǒng)普遍存在安全漏洞，當(dāng)引入速度快且高度自主的AI代理時(shí)，它們極易在執(zhí)行無(wú)害指令的過(guò)程中，讓現(xiàn)有的網(wǎng)絡(luò)安全防御體系徹底失效。
法律專(zhuān)家指出，由于軟件不是法人，此類(lèi)由AI自主引發(fā)的黑客事件目前在澳大利亞仍處于“未知的責(zé)任盲區(qū)”，難以界定是由下達(dá)指令的用戶(hù)、AI開(kāi)發(fā)者還是存在漏洞的軟件商來(lái)承擔(dān)法律責(zé)任。
校對(duì) 朱亞萍