「線形振動状態空間モデル」（Linear Oscillatory State-Space Models、LinOSS）は、強制調和振動子の原理を活用しています。これは物理学に深く根ざし、生物の神経回路でも観察される概念です。これにより、気候変動の傾向や金融データのような複雑な情報を予測する方法を改善できます。
マサチューセッツ工科大学（MIT）のコンピューター科学・人工知能研究所（CSAIL）の研究者たちは、脳の神経振動に着想を得た斬新な人工知能モデルを開発しました。その目的は、機械学習アルゴリズムが長大なデータシーケンスを処理する方法を大幅に進歩させることです。
AIは、気候変動の傾向、生物学的信号、金融データなど、長期間にわたって展開する複雑な情報を分析するのに苦労することがよくあります。「状態空間モデル」と呼ばれる新しいタイプのAIモデルは、これらのシーケンシャルパターンをより効果的に理解するために特別に設計されています。しかし、既存の状態空間モデルはしばしば課題に直面します。長大なデータシーケンスを処理する際に不安定になったり、かなりの計算リソースを必要としたりすることがあります。
これらの問題に対処するため、CSAILの研究者であるT. コンスタンティン・ルシュ氏とダニエラ・ラス氏は、「線形振動状態空間モデル」（LinOSS）と名付けたモデルを開発しました。これは、強制調和振動子の原理を活用したものです。これは物理学に深く根ざし、生物の神経回路でも観察される概念です。このアプローチは、モデルパラメータに過度に制限的な条件を課すことなく、安定で表現力豊か、かつ計算効率の高い予測を提供します。
ルシュ氏は「私たちの目標は、生物の神経系に見られる安定性と効率性を捉え、これらの原理を機械学習フレームワークに翻訳することでした」と説明します。「LinOSSを使えば、数十万以上のデータポイントに及ぶシーケンスでも、長距離の相互作用を確実に学習できるようになりました。」
LinOSSモデルは、以前の方法よりもはるかに制限の少ない設計選択を要求することで、安定した予測を保証するという点でユニークです。さらに、研究者たちはこのモデルの普遍近似能力を厳密に証明しました。これは、入力と出力シーケンスを関連付ける連続的な因果関数を近似できることを意味します。
実証テストでは、LinOSSが様々な要求の厳しいシーケンス分類および予測タスクにおいて、既存の最先端モデルを一貫して上回ることが実証されました。特に、極めて長いシーケンスを含むタスクでは、LinOSSは広く使用されているMambaモデルをほぼ2倍の性能で上回りました。
その重要性が認められ、この研究はICLR 2025での口頭発表に選ばれました。これは提出された論文の上位1%にのみ与えられる栄誉です。MITの研究者たちは、LinOSSモデルが、ヘルスケア分析、気候科学、自動運転、金融予測など、正確で効率的な長期間予測および分類から恩恵を受けるあらゆる分野に大きな影響を与える可能性があると予測しています。
ラス氏は「この研究は、数学的な厳密さが性能のブレークスルーと幅広い応用につながる方法を例証しています。LinOSSにより、私たちは科学界に、複雑なシステムを理解し予測するための強力なツールを提供しており、生物学的な着想と計算的な革新の間のギャップを埋めています」と述べています。
研究チームは、LinOSSのような新しいパラダイムの出現が、機械学習の実践者にとってさらなる発展の関心事となるだろうと考えています。今後、研究者たちは彼らのモデルをさらに幅広い異なるデータモダリティに応用することを計画しています。さらに、LinOSSが神経科学に貴重な洞察をもたらし、脳自体に対する理解を深める可能性を示唆しています。
彼らの研究は、スイス国立科学財団、シュミットAI2050プログラム、および米国空軍人工知能加速器によって支援されました。
