麻省理工學院的研究人員去年公佈了一種以微小生物的大腦為模型的“液體”神經網絡。 對於駕駛和飛行等實際的、安全關鍵的任務，我們正在談論一類可以在工作中學習並適應不斷變化的條件的強大的、自適應的機器學習模型。 這些“液體”神經網絡的適應性加強了我們互聯世界的交流，這意味著可以更好地為各種時間序列數據密集型任務做出決策，例如心臟和大腦監測、天氣預報和股票定價。
然而，隨著這些模型中神經元和突觸數量的增加，它們的計算成本變得很高，並且需要繁瑣的計算機程序來解決其核心的複雜數學問題。 就像許多物理現像一樣，解決所有這些算術隨著尺寸的增加而變得更加困難，這需要計算許多小步驟才能得出解決方案。
同一個科學家團隊找到了一種減少這一瓶頸的方法，通過求解兩個神經元通過突觸連接的微分方程來揭示一類新的快速高效的人工智能係統。 雖然這些模式比液體神經網絡更快且可擴展，但它們具有相同的靈活、因果、穩健和可解釋的特徵。
因此，由於它們即使在訓練後也很小且靈活——不像許多固定的傳統模型——這種類型的神經網絡可以用於任何涉及隨著時間的推移深入了解數據的任務。
“封閉形式連續時間”(CfC) 神經網絡模型在各種任務中優於其最先進的對應模型，包括基於事件的順序圖像處理、模擬行走機器人的物理動力學建模以及來自人類活動的識別運動傳感器。 例如，新模型在 8.000 名患者樣本上執行醫學預測任務的速度提高了 220 倍。
麻省理工學院計算機科學與人工智能實驗室 (CSAIL) 主任、新論文的資深作者 Daniela Rus 教授表示，“我們稱之為‘CfCs’的新機器學習模型專注於數值積分，取代了微分方程它用封閉形式的方法描述了神經元的計算。保留了液體網格的美麗特性，而不需要“CfC 模型是高效的、因果關係的、濃縮的和可解釋的，可以訓練和預測。 它們為安全必不可少的應用程序打開了可靠機器學習的大門。”
我們可以使用微分方程計算世界或現象隨時間的變化狀態，但我們只能隨著時間的推移逐步進行。 該團隊翻遍了他們的數學技巧袋，以找到完美的解決方案。
一種“封閉形式”解決方案，可在單個計算步驟中對整個系統的完整描述進行建模，以對隨時間推移的自然事件進行建模並理解過去和現在的行為，例如識別人類活動或機器人所遵循的路徑。
他們的模型允許在過去或未來的任何時候計算這個方程。 不僅如此，由於不需要逐步求解微分方程，計算速度要快得多。
想像一個端到端的神經網絡，它使用汽車內置的攝像頭來提供駕駛輸入。 該網絡經過訓練以產生諸如汽車轉向角之類的輸出。 2020 年，該團隊成功製造了一輛可以由 19 個神經元驅動的汽車和一個使用 19 節點流體神經網絡的小型傳感模塊。 系統中的每個節點都由微分方程描述。 由於封閉形式的解決方案是系統實際動態的良好近似，因此在此網格中對其進行更改將導致您正在尋找的行為。 結果，他們可以用更少的神經元解決問題，使過程更快，計算成本更低。
來源和進一步閱讀：techxplore.com/news/2022-11-brain-dynamics-flexible-machine-learning.html
Günceleme: 21/11/2022 14:03
成為第一個發表評論的人