「線性振盪狀態空間模型」（Linear Oscillatory State-Space Models，LinOSS）利用了受迫諧振子的原理，這是物理學中根深蒂固並在生物神經網路中觀察到的概念。這可以改善我們預測氣候趨勢或金融數據等複雜資訊的方式。
麻省理工學院電腦科學與人工智慧實驗室（CSAIL）的研究人員開發了一種受大腦神經振盪啟發的新型人工智慧模型，目標是顯著提升機器學習演算法處理長序列數據的能力。
人工智慧在分析隨時間展開的複雜資訊時常遇到困難，例如氣候趨勢、生物信號或金融數據。一種名為「狀態空間模型」（state-space models）的新型人工智慧模型專門設計用於更有效地理解這些序列模式。然而，現有的狀態空間模型常面臨挑戰——它們在處理長序列數據時可能變得不穩定或需要大量的計算資源。
為了應對這些問題，CSAIL研究人員T. Konstantin Rusch和Daniela Rus開發了他們稱之為「線性振盪狀態空間模型」（LinOSS）的模型，該模型利用了受迫諧振子的原理，這是一個根植於物理學並在生物神經網路中觀察到的概念。這種方法提供了穩定、富有表現力且計算效率高的預測，而無需對模型參數施加過多限制。
Rusch解釋說：「我們的目標是捕捉生物神經系統中觀察到的穩定性和效率，並將這些原理轉化為機器學習框架。透過LinOSS，我們現在可以可靠地學習長程交互作用，即使是跨越數十萬個數據點或更多的序列也不在話下。」
LinOSS模型獨特之處在於，它透過要求遠較先前方法寬鬆的設計選擇來確保穩定的預測。此外，研究人員嚴格證明了該模型的通用近似能力，意味著它可以近似任何與輸入和輸出序列相關的連續、因果函數。
實證測試表明，LinOSS在各種嚴苛的序列分類和預測任務中，始終優於現有的最先進模型。值得注意的是，在涉及極長序列的任務中，LinOSS的性能幾乎是廣泛使用的Mamba模型的兩倍。
這項研究因其重要性而被選為ICLR 2025的口頭報告，這是僅授予前1%提交論文的榮譽。麻省理工學院的研究人員預計，LinOSS模型可能對任何受益於準確高效的長週期預測和分類領域產生重大影響，包括醫療保健分析、氣候科學、自動駕駛和金融預測。
Rus表示：「這項工作展示了數學嚴謹性如何帶來性能突破和廣泛應用。透過LinOSS，我們為科學界提供了一個強大的工具，用於理解和預測複雜系統，彌合了生物啟發與計算創新之間的差距。」
研究團隊認為，LinOSS這樣一個新範式的出現將引起機器學習從業者們進一步探索的興趣。展望未來，研究人員計劃將他們的模型應用於更廣泛的不同數據類型。此外，他們認為LinOSS可以為神經科學提供寶貴的見解，潛在地加深我們對大腦本身的理解。
他們的研究得到了瑞士國家科學基金會、Schmidt AI2050計畫以及美國空軍人工智慧加速器的支持。
