笑いが止まらない、ChatGPTが大事件を起こした！
AIの幻覚が勝手に製品の新機能を捏造し、ユーザーが大量に流入した結果、開発者はその架空の機能を実際に開発せざるを得なくなった。
被害者は楽譜スキャンサイトのSoundsliceで、最近、不可解なことにChatGPTからのASCIIギター譜のスクリーンショットが大量にアップロードされてきた。
ウェブサイトの開発者は困惑した：
WTF？うちはASCIIギター譜のスキャンに全く対応していないはずだろ？？？
この開発者自身がChatGPTを使ってみて初めて、なるほど、そういうことか～と気づいたのだった。
ChatGPTがASCIIギター譜を生成した後、自動的に彼らのウェブサイトで視聴したり、さらに創作したりするように人々に勧めていたのだ。
しかし、このウェブサイトは普段、伝統的な標準五線譜をスキャンしており、ASCIIギター譜のようなニッチな形式には全く対応していなかった……
さらに笑いが止まらないのは、大量のユーザーがこの機能を試したことで、開発者は窮地に立たされた。この機能に対応しないと、期待して訪れたユーザーを失望させ、サイトが非常に劣っているように見えてしまう。
そこで、この開発者はやむを得ず、急ピッチでこの機能を開発したのである。
ChatGPTに「無理やり」新機能開発をさせられる
この楽譜スキャンサイトはSoundsliceといい、その楽譜スキャナー機能は、写真や画像から音楽をデジタル化し、視聴、編集、練習を可能にするものだ。
このサイトの開発者によると、彼らはこのシステムを継続的に改善しており、彼の仕事の一つは、エラーログを監視し、どの画像がうまく処理されていないかを確認することだった。
ここ数カ月で、彼はエラーログの中に奇妙なアップロードコンテンツを発見し始めた。
このような伝統的な楽譜の画像ではなく：
このようなChatGPTの会話スクリーンショットだったのだ：
スクリーンショットの内容を見た開発者は呆然とした。「何だこれは？これは明らかに標準的な音楽記譜法じゃない。ASCIIギター譜だ、それもかなり簡素なギター記譜形式だ」。
彼らのスキャンシステムは、元々この記譜形式をサポートしておらず、サポートするつもりもなかった。ではなぜ、こんなにも多くのChatGPTからのASCIIギター譜のスクリーンショットが送られてくるのか？
開発者はこのことで何週間も悩んでいたが、自分でChatGPTを使ってみて初めて、ChatGPTが人々にSoundsliceに登録し、ASCIIギター譜をインポートすれば、オーディオ再生が聞けると教えていることに気づいたのだ。
これで全て納得がいった。
開発者は非常に憤慨した。ChatGPTは完全に人々を誤解させている上に、その過程で無意識のうちにウェブサイトのイメージを損ない、ユーザーにサービスに対する誤った期待を抱かせていたのだ。
開発者もまた、どうすればいいのか途方に暮れていた。次々と新しいユーザーにウェブサイトに関する誤った情報が伝えられている。ウェブサイトのいたるところに「ChatGPTが言う私たちがASCIIギター譜をサポートしているということを信じないでください」と免責事項を貼り付けるべきなのか？
最終的に彼らは決断した：もういい、市場の需要に合わせよう。
そこで彼らは特別にASCIIギター譜インポーターを開発した。開発者は、これが彼の「2025年に開発予定のソフトウェア」リストのほぼ最後尾にあったことを強調した。言い換えれば、それまでこれの開発を全く考えていなかったのだ。
そして、彼らはスキャンシステムのインターフェーステキストも修正し、この新機能を皆に紹介した。
ASCIIギター譜がSoundsliceにインポートされると、誰もがこの譜面を再生し、編集できるようになる。このウェブサイトは、自動的に対応する標準楽譜も生成し、その効果は以下のようになる：
ウェブサイトは、ASCIIギター譜が非常に限定的な形式であることを特に明記している。音符の長さやリズムを示さず、時には小節線すら含まれないこともある。そのため、彼らはこれを音楽をSoundsliceにインポートする最初のステップと見なしており、ユーザーは必要に応じて彼らのエディターを使って整理する必要があるかもしれないと述べている。
その後、彼らが音楽記譜の特定の側面をサポートしている詳細な説明が添付された：
開発者がどれほど途方に暮れているかがわかる。彼の知る限り、これはChatGPTが誤って特定の機能が存在すると人々に伝えたことで、ある企業がその機能を開発することになった初の事例だという。
彼自身はこれについて複雑な心境を表明している：
人助けになるツールを追加できたことは嬉しい。しかし、私たちは奇妙な状況で強制されたように感じている。誤情報に対応するために機能を開発すべきなのだろうか？
興味深いことに、この開発者はChatGPTのスクリーンショットがASCIIギター譜であると一目で識別でき、チームと協力して迅速にASCIIギター譜スキャン機能を開発した。実は彼自身もギタリストなのだ。
ギタリスト & ウェブ開発者
Soundsliceウェブサイトの創設者であり、この奇妙な事件を共有した人物は、シカゴ出身のウェブ開発者でありミュージシャンでもあるAdrian Holovaty氏だ。
音楽面では、『Layer Cake』（2025年）、『Melodic Guitar Music』（2023年）などのアルバム作品を発表している。
彼はまた、音楽記譜関連の規範を策定・維持する組織であるW3C音楽記譜コミュニティグループの3人の共同議長の一人でもある。
彼の主な仕事はMNX形式で、これが次世代のデジタル音楽記譜のエンコーディング形式となることを望んでいる。
Soundsliceウェブサイトの設立当初の目的は、音楽愛好家がこのツールを使って楽譜をインタラクティブな学習環境に変え、練習、指導、共有、転写ができるようにすることだった。
このウェブサイトは、デバイスの音楽レンダリング機能に自動的に適応し、機能が完備したウェブベースの楽譜エディター、そして写真やPDFから音符を認識する「光学音楽認識」システムも備えている。
さらに、2005年には、Googleマップを埋め込んだ最も初期のウェブサイトの一つであるchicagocrime.org（サイトはすでに存在しない）を開発し、ニューヨーク・タイムズ紙から年間最優秀アイデアの一つに選ばれた。2004年には、Greasemonkeyや「ユーザースクリプト」の誕生に影響を与えたブラウザ拡張機能を開発した。2007年には、コミュニティニュースとディスカッションサイトEveryBlockを立ち上げ、後に売却された。
それ以前は、Adrian Holovaty氏はワシントン・ポストなどでジャーナリストとしても活動していた。
彼がChatGPTの「嘘」によって新機能開発を強いられたこの出来事を公開した後、多くのネットユーザーの間で議論を呼んだ。
興味深いことに、ネットユーザーの考え方は非常に斬新で、ChatGPTの幻覚を開発に利用できるとさえ考えている：
これはGPT-4を使ってプログラミングをする超実用的な方法の一つだと気づきました。
APIがどのように機能するかを直接教えるのではなく、GPT-4に「推測」させるのです。例えば、新機能が必要なサンプルコードを起点として与えます。時には、私の元のアイデアよりも優れた解決策を思いつくことがあります。そのあと、私はAPIを調整して、GPT-4が書いたコードが動作するようにします。
逆に、既存のコードを与えて、このコードが何をするものなのかを尋ねることもあります。もしGPT-4が誤解したら、それは私のAPI設計がわかりにくいことを示しており、どの部分が混乱しやすいのかを見極めることができます。
これはまさに、ニューラルネットワークが得意とすること、つまり正確な情報を出力するのではなく、非常にそれらしい内容を真面目に「でっち上げる」、いわゆる「幻覚」を利用しているのです。論理ではなく創造性に基づいています。
これは人間とコンピュータのインタラクション設計の分野で古くからある「オズの魔法使い法（Wizard of Oz）」に非常によく似ています。具体的には、まだ開発されていないアプリケーションのふりをする人間の操作者を介在させる方法で、この方法は新機能を発掘する上で非常に有用です。
あるネットユーザーは、この出来事の興味深い点はこうだと考えている：
新機能をリリースする方が、OpenAIにChatGPTを修正させて、その機能が存在すると偽装するのをやめさせるよりも簡単だ（彼らがどうすればそうできるのかすらわからない、Soundsliceへの言及を全て完全にブロックすることはできないだろう？）。
参考リンク：https://www.holovaty.com/writing/chatgpt-fake-feature/ https://news.ycombinator.com/item?id=44491071