機器人還是非機器人？本系列特別節目探討了人與機器之間不斷發展的關係，並分析了機器人、人工智慧和自動化如何影響我們的工作和生活。
策略性拒絕是應對人工智慧炒作的方法之一。（Bigstock 插圖 / Digitalista）
不要把 ChatGPT 稱為聊天機器人，而應該叫它對話模擬器。不要把 DALL-E 想像成藝術圖像的創造者，而應該把它想像成一台合成媒體擠壓機。事實上，不要把生成式人工智慧（Generation AI）所做的事情想像成真正的人工智慧。
這是新書《AI Con》作者提出的應對人工智慧炒作的建議之一。
「『人工智慧』本質上是一個擬人化的術語，」華盛頓大學語言學教授艾米麗·M·本德(Emily M. Bender) 在《虛構科學》播客的最新一期中解釋道。「它把這項技術推銷得比其本身更多——因為它不是一個可以自動轉錄或自動調整錄音音量的系統，而是一個『人工智慧』，因此它可能能夠做更多的事情。」
在他們的書和播客中，本德和她的合著者亞歷克斯·漢納指出了人工智慧行銷的種種弊端。他們認為，人工智慧帶來的好處被誇大，而其成本卻被淡化。他們表示，最大的收益流向了那些銷售軟體的企業——或者利用人工智慧作為降低人類員工地位的藉口。
「人工智慧不會搶走你的工作，但它很可能會讓你的工作變得更糟糕，」分散式人工智慧研究所研究主任、社會學家漢娜說道。「這是因為這些工具完全取代人類工作的情況並不多，但它們最終會……被設想取代人類工作者正在做的一系列任務。」
漢娜說，這樣的說法經常用來作為解雇工人的正當理由，然後「重新雇用他們作為零工，或者在供應鏈中尋找其他人來做這項工作」。
科技公司高管通常堅稱，人工智慧工具將帶來生產力的巨大飛躍，但漢娜指出，包括麻省理工學院的達隆·阿西莫格魯（去年獲得諾貝爾經濟學獎）在內的經濟學家的預測並不樂觀。阿西莫格魯估計，未來10年，人工智慧將使生產力年增長率約為0.05%。
此外，阿西莫格魯表示，人工智慧可能帶來「負面社會影響」，包括擴大資本和勞動收入之間的差距。在《人工智慧騙局》一書中，本德和漢納列舉了人工智慧帶來的一系列負面社會和環境影響——從能源和水資源的消耗，到肯亞和菲律賓等國對訓練人工智慧模型的工人的剝削。
另一個擔憂與文學藝術作品如何被盜版用於訓練人工智慧模型有關。（全面披露：我自己的著作《冥王星之案》就曾被用於訓練 Meta 的 Llama 3 人工智慧模型。）此外，大型語言模型還存在一個眾所周知的問題，即輸出的資訊可能聽起來合理，但實際上完全是錯誤的。（本德和漢娜避免稱之為「幻覺」，因為該術語暗示了感知的存在。）
此外，還有基於種族或性別的演算法偏見問題。當人工智慧模型被用於決定誰能被僱傭、誰會被判入獄，或者哪些地區應該加強警力時，這些問題就敲響了警鐘。「人工智慧騙局」一文將涵蓋所有這些內容。
在這本書中很難找到任何對人工智慧的讚美之詞。
「你永遠不會聽到我說人工智慧有好處，這並不是說我不同意所有這些自動化，」本德說。「我只是覺得人工智慧根本不是一回事。當然，自動化確實有用例，包括自動化模式識別或模式匹配……這得具體情況具體分析，對吧？」
需要問的問題包括：哪些內容正在被自動化？自動化工具是如何構建的？誰參與了該工具的開發？這些勞動者是否獲得了公平的報酬？該工具是如何評估的？該評估是否真正模擬了正在被自動化的任務？
本德表示，生成式人工智慧應用未能通過她的測試。
「我最接近的一點就是，嗯，電子遊戲中與非玩家角色的對話，」本德說。「如果能運行合成文本擠出機，對話就能更加生動。而且這是虛構的，所以我們不追求事實。但我們在虛構的體驗中尋找某種真實。而這正是偏見真正成為問題的地方——因為如果你的NPC完全是偏執狂，無論是明顯的還是隱晦的，那都是一件壞事。」
除了注意言辭並對正在推廣的系統提出質疑之外，還應該做些什麼來遏制人工智慧的炒作？本德和漢娜表示，應該制定新的法規，以確保透明度、資訊披露和問責制，以及在面對自動化決策時能夠及時糾正問題。他們表示，一個強有力的個人數據保護監管框架，例如歐盟的《通用數據保護條例》，可以幫助遏制數據收集行為的過度。
漢娜表示，集體談判提供了另一種途徑，可以有效遏制人工智慧在工作場所的應用。「我們已經看到許多組織在這方面取得了巨大成功，比如美國編劇工會在2023年罷工後，」她說道。「我們也看到了美國護士聯合會（National Nurses United States）的做法。許多不同的組織都在合同中規定，他們必須獲得知情權，並有權拒絕使用任何合成媒體，還可以決定在編劇室的何時何地部署合成媒體（如果使用的話），以及在工作場所的何處部署合成媒體。」
作者建議網際網路用戶信賴可靠的資訊來源，而非文本擠壓機。他們還表示，用戶應該願意採取「策略性拒絕」——也就是說，當科技公司要求他們為人工智慧「攪拌機」提供數據或利用其數據時，應該說「絕對不」。
本德表示，這也有助於嘲笑那些關於人工智慧的誇張說法——她和漢娜將這種策略稱為「以嘲笑為實踐」。
「這能幫你養成『不，我沒必要接受你那些荒謬的主張』的習慣，」本德說。「而且我覺得，嘲笑這些主張能讓人感到充滿力量。」
本德和漢娜將於今天太平洋時間晚上 7 點在西雅圖的埃利奧特灣圖書公司 (Elliott Bay Book Company) 和週二太平洋時間晚上 7 點在森林湖公園的第三廣場書店 (Third Place Books) 就「人工智慧大會」 (The AI Con) 進行演講。在西雅圖的活動期間，他們將與華盛頓大學研究資訊技術倫理的副教授安娜·勞倫·霍夫曼 (Anna Lauren Hoffmann) 同台。在第三廣場書店，本德和漢娜將與 Hugging Face 的電腦科學家瑪格麗特·米切爾 (Margaret Mitchell) 一起出席，後者專注於機器學習和基於倫理的人工智慧開發。查看「人工智慧大會」的完整活動日程。
我的「虛構科學」播客的聯合主持人是多米尼卡·菲特普萊斯 (Dominica Phetteplace)，她是一位獲獎作家，畢業於克萊里昂西部作家工作坊 (Clarion West Writers Workshop)，現居舊金山。想了解更多關於菲特普萊斯的信息，請訪問她的網站 DominicaPhetteplace.com。
《科幻科學》被列入 FeedSpot 的「100 個最佳科幻播客」榜單。查看 Cosmic Log 上這篇報導的原始版本，獲取 Bender 和 Hanna 的科幻閱讀推薦，並敬請關注透過 Apple、Spotify、Player.fm、Pocket Casts 和 Podchaser 播出的《科幻科學》播客後續劇集。如果您喜歡《科幻科學》，請為播客評分並訂閱，以便收到後續劇集的提醒。