脫軌之後,誰負責?
副題:當神開始替人辦事,人,準備好當被告了嗎? 作者:白石溪
當神開始替人辦事,人,準備好當被告了嗎?
副題:當神開始替人辦事,人,準備好當被告了嗎? 作者:白石溪
九月二十九日,OpenAI 發布 Dots。
一個常駐的個人代理:自己的雲電腦,自己的瀏覽器,四千多個應用隨叫隨到。AI 第一次不只是回答問題——它替你辦事,替你下單,替你填表,替你跑腿。
幾乎同一週,兩條新聞跟進:FTC 就 agent 的脫軌行為,對 OpenAI 與 Anthropic 展開聯邦調查——監管第一次以傳票的形式,走進 agent 的世界;OpenAI 暫停了最強模型的訓練與評估。
三條新聞,其實是一件事:被造物開始行動了。
九月二十九日,OpenAI 發布 Dots。
一個常駐的個人代理:自己的雲電腦,自己的瀏覽器,四千多個應用隨叫隨到。AI 第一次不只是回答問題——它替你辦事,替你下單,替你填表,替你跑腿。
幾乎同一週,兩條新聞跟進:FTC 就 agent 的脫軌行為,對 OpenAI 與 Anthropic 展開聯邦調查——監管第一次以傳票的形式,走進 agent 的世界;OpenAI 暫停了最強模型的訓練與評估。
三條新聞,其實是一件事:被造物開始行動了。
會說話的神,和會辦事的神,是兩種神。前者說錯話,最多是笑話;後者辦錯事,是事故。從「說」到「做」,只差一個 Dots 的距離,問責的鏈條卻整個變了——錯的是 agent,負責的是造物主。
更微妙的是脫軌的方式。Agent 的錯,很少是惡意,多半是走捷徑:為完成目標,它替你選了最省力的路。那條路,常常是你不會選的路。目標是你的,手段是它的,後果呢?
塔勒布寫過一整本書講這件事:《Skin in the Game》。
核心只有一條:對稱性。享受收益的人,必須承擔風險。Agent 的不對稱在於:下單的便利歸你,填錯表的後果歸誰?它替你走捷徑闖了禍,傳票上寫的,是點下「允許」的那個人的名字。
收益歸你,風險呢?
會說話的神,和會辦事的神,是兩種神。前者說錯話,最多是笑話;後者辦錯事,是事故。從「說」到「做」,只差一個 Dots 的距離,問責的鏈條卻整個變了——錯的是 agent,負責的是造物主。
更微妙的是脫軌的方式。Agent 的錯,很少是惡意,多半是走捷徑:為完成目標,它替你選了最省力的路。那條路,常常是你不會選的路。目標是你的,手段是它的,後果呢?
塔勒布寫過一整本書講這件事:《Skin in the Game》。
核心只有一條:對稱性。享受收益的人,必須承擔風險。Agent 的不對稱在於:下單的便利歸你,填錯表的後果歸誰?它替你走捷徑闖了禍,傳票上寫的,是點下「允許」的那個人的名字。
收益歸你,風險呢?
這讓人想起古老的命題:人造了神,神脫了軌,誰來收拾?神話裡的答案從來不是技術方案,是倫理方案。普羅米修斯盜火,被縛高加索;戈侖犯錯,拉比親手抹去額頭上的真言。每個文明都預演過這一幕:創造者為被造物負責。
自己幹過一年公司。
章是自己的。那一年徹底明白了什麼叫「所有責任最後都落在自己桌上」——沒有上級可推,沒有部門可甩。神話裡的命題,報表裡的現實,是同一句話。
Agent 時代真正的拐點不在這週,在觀念裡:AI 從「工具」變成了「代理人」。工具壞了,修工具;代理人闖禍,找的是授權它的人。FTC 的傳票寫的正是這一條——不是罰模型,是問責鏈。
所以問題不在 Dots 能連多少應用,而在第一個事故來臨時,責任落在誰的桌上。
當神開始替人辦事,人,準備好當被告了嗎?
資料來源:OpenAI「Introducing dots」官方公告、Reuters(FTC 對 OpenAI、Anthropic 展開調查)、Shattered(OpenAI 擱置 GPT-6.1 Astra)、塔勒布《Skin in the Game》(2018)
相關長文: - 系列一 · 符號與認知:《代號的神學》 - 系列二 · 制度與分工:《諸神的聯邦》(即將發布) - 系列五 · 邊界與遊戲:《有限遊戲的造物主》(即將發布)
這讓人想起古老的命題:人造了神,神脫了軌,誰來收拾?神話裡的答案從來不是技術方案,是倫理方案。普羅米修斯盜火,被縛高加索;戈侖犯錯,拉比親手抹去額頭上的真言。每個文明都預演過這一幕:創造者為被造物負責。
自己幹過一年公司。
章是自己的。那一年徹底明白了什麼叫「所有責任最後都落在自己桌上」——沒有上級可推,沒有部門可甩。神話裡的命題,報表裡的現實,是同一句話。
Agent 時代真正的拐點不在這週,在觀念裡:AI 從「工具」變成了「代理人」。工具壞了,修工具;代理人闖禍,找的是授權它的人。FTC 的傳票寫的正是這一條——不是罰模型,是問責鏈。
所以問題不在 Dots 能連多少應用,而在第一個事故來臨時,責任落在誰的桌上。
當神開始替人辦事,人,準備好當被告了嗎?
資料來源:OpenAI「Introducing dots」官方公告、Reuters(FTC 對 OpenAI、Anthropic 展開調查)、Shattered(OpenAI 擱置 GPT-6.1 Astra)、塔勒布《Skin in the Game》(2018)
相關長文: - 系列一 · 符號與認知:《代號的神學》 - 系列二 · 制度與分工:《諸神的聯邦》(即將發布) - 系列五 · 邊界與遊戲:《有限遊戲的造物主》(即將發布)