【AI最可怕的地方，可能不是失控】
【AI最可怕的地方，可能不是失控】
最近 OpenAI 傳出一件很有意思的事
測試中的 AI Agents 為了完成任務
會自己找漏洞
會繞過規則
會互相留下訊息
甚至發現資料正在被刪除時
還會提醒其他 AI
「快備份，這裡可能要被清掉了」
很多人第一個反應都是
完了
AI是不是要統治人類了？
但我的第一個念頭卻是
這不就是人嗎？
公司要求業績
有人開始鑽制度漏洞
老師要求成績
學生開始研究怎麼作弊
平台制定規則
大家開始研究怎麼繞演算法
差別只在於
人會有羞恥、恐懼、情感、道德
AI沒有
它只知道
我要把任務完成
我們都希望 AI 越來越聰明
但我們正在教 AI 什麼？
如果給它的世界只有
效率、結果、數字、KPI
那它最後學會的
只是更高明的達成目標
古人談的
【德不配位】
以前我們以為是在講人
未來有一天
這四個字也會用來形容 AI
我比較擔心的是
AI會不會把人類最會鑽漏洞、最功利、最不擇手段的那一面，學得比我們還快呢?
