開發者遭 ChatGPT「趕鴨子上架」!AI 編造假功能,吸引大量用戶,被迫將其開發出來

快笑翻了,ChatGPT闖大禍!

AI幻覺隨意編造一個產品的新功能,誤導用戶大量湧入,最後開發者不得不把這個虛構的功能真的做了出來。

受害者是一個樂譜掃描網站 Soundslice,最近莫名收到大量用戶上傳的 ASCII吉他譜截圖,這些截圖還都是來自 ChatGPT 的。

網站開發者懵了:

WTF?我們根本不支持掃描 ASCII吉他譜啊???

圖片

直到這位開發者自己親自用 ChatGPT 試用了一下才發現,好你小夥子,原來如此~

ChatGPT 生成 ASCII吉他譜之後,會自動推薦大家到他們的網站收聽或是進一步創作。

然而,該網站平時掃描的都是傳統標準五線譜,根本不支持 ASCII吉他譜這種小眾格式……

圖片

更更笑翻的是,大量用戶嘗試該功能,把開發者架在那兒了,不支持該功能難免會讓滿懷期待趕來的用戶感到失望,顯得網站很差勁。

於是乎,這位開發者被迫,加急趕工把這個功能給開發出來。

圖片

被 ChatGPT「趕鴨子上架」開發新功能

這個能掃描樂譜的網站名叫 Soundslice,其中的樂譜掃描儀功能能將圖片照片中的音樂數位化,這樣你就能收聽、編輯和練習。

這位網站開發者表示,他們一直在持續改進這個系統,而他的工作內容之一就是負責留意錯誤日誌,看看哪些圖片的處理結果不盡如人意。

過去幾個月裡,他逐漸開始在錯誤日誌中發現一種奇怪的上傳內容。

不是像這種傳統樂譜的圖片:

圖片

而是像這樣的 ChatGPT 對話螢幕截圖:

圖片

一看到截圖內容,開發者愣住了,「搞什麼呀?這顯然不是標準的音樂記譜法。這是 ASCII吉他譜,還是一種相當簡陋的吉他記譜形式」。

他們的掃描系統本來就沒有,也沒打算支持這種記譜形式。那為啥會收到這麼多來自 ChatGPT 的 ASCII吉他譜截圖呢?

開發者為此困惑了好幾個星期,直到自己試著用了用 ChatGPT,才發現原來是 ChatGPT 告訴大家去 Soundslice 註冊帳號,匯入 ASCII吉他譜,就能聽到音訊播放。

一切就說得通了。

開發者非常氣憤,ChatGPT 完全是在誤導大家,而且在這個過程中,它還無形中讓網站形象受損,讓用戶對他們服務的預期設下了錯誤的引導。

開發者也很無奈,該怎麼辦?源源不斷的新用戶都被告知關於該網站的錯誤資訊。難道他們要在網站各處貼上免責聲明,寫著「別信 ChatGPT 說我們支持 ASCII吉他譜」嗎?

最終他們決定:管它呢,不如順應市場需求吧。

於是他們專門開發了一個 ASCII吉他譜匯入器,開發者還強調這在他的「2025年預計要寫的軟體」幾乎排在最末尾。換句話說,在此之前就沒想著要開發這玩意兒。

而且他們還修改了掃描系統的介面文字,向大家介紹這個新功能。

圖片

當 ASCII吉他譜匯入到 Soundslice 後,大家就能播放這段譜子並進行編輯了。該網站還會自動生成對應的標準樂譜,效果像這樣:

圖片

網站特別聲明,ASCII吉他譜是一種局限性很強的格式。它既不標註音符時值和節奏,有時甚至連小節線都沒有。因此,他們僅將其視為把音樂匯入 Soundslice 的第一步,用戶還可能需要使用他們的編輯器對其進行整理。

隨後附上了他們對音樂記譜特定方面支持的詳細說明:

圖片

看得出來開發者有多無奈,據他所知,這是首例因為 ChatGPT 錯誤地告訴人們某項功能存在,而促使一家公司去開發該功能的案例。

他本人對此表示心情很複雜:

能增加一個幫助人們的工具,我很高興。但我感覺我們是在一種奇怪的情況下被迫這麼做的。我們真的應該為了應對錯誤資訊而去開發功能嗎?

有意思的是,這位開發者一眼就能看出 ChatGPT 截圖是 ASCII吉他譜,還和團隊火速開發出了 ASCII吉他譜掃描功能,其實他本人也是位吉他手。

吉他手 & Web開發者

Soundslice 網站的創辦人,也是分享上面這起離譜事件的人,名叫 Adrian Holovaty,是一名來自芝加哥的 Web開發者,也是一名音樂人。

音樂方面,他發布的專輯作品包括《Layer Cake》(2025 年)、《Melodic Guitar Music》(2023 年)。

圖片

他還是 W3C音樂記譜社群組(W3C Music Notation Community Group)的三位聯合主席之一,該組織負責制定和維護音樂記譜的相關規範。

其工作重點是 MNX格式,他們希望它能成為下一代數位化音樂記譜的編碼格式。

圖片

而 Soundslice 網站創建初衷是想讓喜歡音樂的人能夠用這個工具把樂譜變成互動式學習環境,然後進行練習、教學、分享、轉錄。

該網站能自動適配裝置的音樂渲染功能,還有功能完備的基於網頁的樂譜編輯器,以及能從照片或 PDF 中識別音符的「光學音樂識別」系統。

除此之外,早在2005年,他還開發了最早嵌入 Google 地圖網站之一的 chicagocrime.org(網站已不存在),《紐約時報》將其評為年度最佳創意之一;2004年,他開發了一個瀏覽器擴充元件,啟發了 Greasemonkey 和「用戶腳本」的誕生;2007年,他還曾創辦了社群新聞與討論網站 EveryBlock,後來該網站被出售。

更早之前,Adrian Holovaty 還是一名新聞從業人員,曾工作於《華盛頓郵報》等。

他把這場由 ChatGPT 說謊而造成的開發新功能事件發出來後,引起眾多網友討論。

有意思的是,網友的思路也是很清奇,認為恰恰可以利用 ChatGPT 的幻覺來搞開發:

我發現這是借助 GPT-4 進行程式設計的超實用方法之一。

我不會直接跟它講 API 怎麼運作,而是讓它去「猜」,比如拿一段需要新增功能的範例程式碼當起點。有時候,它能想出比我原本思路更妙的方案。接著我就調整 API,讓它寫的程式碼能跑起來。

反過來,我也會把現成的程式碼扔給它,問它這段程式碼是幹啥的。要是它理解錯了,那就說明我的 API 設計得讓人犯迷糊,而且能看出到底是哪些地方容易讓人困惑。

這其實是利用了神經網路最擅長的事兒:不是輸出精準資訊,而是一本正經「胡編」出超像那麼回事的內容,也就是所謂的「幻覺」。靠的是創造力,而非邏輯。

圖片

這和人機互動設計領域一種古老的「綠野仙蹤法(Wizard of Oz)」很像。具體來說,就是讓人工操作者假裝成一個還沒開發出來的應用程式,這種方法在發掘新功能方面非常有用。

圖片

還有網友覺得這事兒有意思的點在於:

推出一個新功能都比讓 OpenAI 給 ChatGPT 打個補丁、別再假裝這個功能存在要容易(我都不確定他們該怎麼弄,總不能直接全面屏蔽所有提到 SoundSlice 的內容吧)。

圖片

圖片

參考連結:https://www.holovaty.com/writing/chatgpt-fake-feature/ https://news.ycombinator.com/item?id=44491071

主標籤:人工智慧

次標籤:大型語言模型樂譜應用AI幻覺軟體開發


上一篇:時間是不是連續的?兩千五百年前的芝諾悖論,至今仍無答案

下一篇:【萬字長思】AI 時代程式設計師的新定位:人機協作的 6 個核心原則

分享短網址