人民網(wǎng)北京3月31日電 （記者趙竹青）3月29日，多模態(tài)超級智能安全北京市重點實驗室（Beijing Key Laboratory of Super Intelligent Security of Multi-Modal Information）在中關(guān)村論壇上正式對外公開。實驗室依托中國科學(xué)院自動化研究所，由人民中科等單位共同建設(shè)，人民中科首席科學(xué)家擔(dān)任實驗室主任。
多模態(tài)超級智能安全北京市重點實驗室在中關(guān)村論壇上正式對外公開。中關(guān)村論壇供圖
北京市重點實驗室作為北京市科技創(chuàng)新體系的重要組成部分，聚焦國家重大戰(zhàn)略和北京市高精尖產(chǎn)業(yè)領(lǐng)域、經(jīng)濟社會發(fā)展的重大需求。作為北京市重點支持的基礎(chǔ)研究機構(gòu)，多模態(tài)超級智能安全實驗室旨在推進超級智能領(lǐng)域的基礎(chǔ)研究，開展超級人工智能、人工智能安全等前沿研究，解決復(fù)雜技術(shù)和應(yīng)用問題，力爭建成世界一流科研平臺。
超級智能（super intelligent），是指超越人類智能的機器智能系統(tǒng)。與當(dāng)前普遍的預(yù)訓(xùn)練AI相比，超級智能可在極少量樣本數(shù)據(jù)上自主學(xué)習(xí)，在類人直覺、規(guī)律洞察、復(fù)雜問題解決等方面極具優(yōu)勢，大幅拓展人類的科學(xué)邊界和想象空間，在科研、金融、醫(yī)療等復(fù)雜場景有廣泛需求。以科學(xué)研究的場景為例，超級智能可打破學(xué)科界限，直接分析海量實驗數(shù)據(jù)，發(fā)現(xiàn)隱藏其中的科學(xué)規(guī)律和原理，更能打破傳統(tǒng)科研范式中遵循既定理論框架與研究方法的固有局限，直接面向顛覆性科研任務(wù)；極大拓展了人類探索科學(xué)的范圍、尺度和視角，構(gòu)建全新的人機協(xié)同科研范式，將重塑世界科研格局。
我國人工智能研究和應(yīng)用已處于世界先進水平，近期DeepSeek等高水平應(yīng)用更引發(fā)了新一輪的人工智能熱情，但目前大語言模型仍是基于Transformer架構(gòu)上的創(chuàng)新。這種“大數(shù)據(jù)－大模型－強算力”的技術(shù)路線，依賴大量進口高性能芯片，成本高、幻覺多，難以真正落地到業(yè)務(wù)的核心，高質(zhì)量數(shù)據(jù)的枯竭將進一步限制這種范式的發(fā)展?jié)摿?。為此，我國一方面需要繼續(xù)挖掘現(xiàn)有技術(shù)路線的潛力，尤其是減少芯片和能源的消耗；另一方面，亟待加強人工智能的基礎(chǔ)研究，提前多元布局，尋找更高效的技術(shù)架構(gòu)和方法體系，精準(zhǔn)規(guī)劃彎道超車的突破點。
多模態(tài)超級智能安全北京市重點實驗室以中國科學(xué)院自動化所視頻安全團隊與人民中科為核心組建，擬重點突破超級人工智能等技術(shù)路線，探索類腦智能、自主進化學(xué)習(xí)、超級人類對齊、自主高質(zhì)量數(shù)據(jù)生成等顛覆性研究，并研究和解決隱私保護、算法偏見、責(zé)任歸屬等現(xiàn)實問題。
據(jù)介紹，實驗室將重點圍繞五大方向開展研究。
一是超級智能新范式構(gòu)建。探索并構(gòu)建有別于大數(shù)據(jù)、大模型、大算力的全新人工智能范式，尋找更高效、更具創(chuàng)新性的技術(shù)架構(gòu)和方法體系。
二是認(rèn)知能力模擬與增強。深入研究如何模擬及進一步增強超級智能的發(fā)現(xiàn)能力、反思能力、直覺能力以及科學(xué)規(guī)律發(fā)現(xiàn)能力。例如通過神經(jīng)科學(xué)與人工智能的交叉研究，讓機器更好地模擬人類的高級認(rèn)知功能。
三是智能決策系統(tǒng)的優(yōu)化。提升超級智能在復(fù)雜且不確定環(huán)境中做出更精準(zhǔn)、更具前瞻性決策的能力，并在政務(wù)、金融、醫(yī)療、交通等關(guān)鍵領(lǐng)域推廣應(yīng)用。
四是自主性和安全性提升。研究在不同場景下提升超級智能的自主性，包括自主學(xué)習(xí)、自主規(guī)劃、自主適應(yīng)環(huán)境變化等，減少對人類干預(yù)的依賴；研究系統(tǒng)的安全性和經(jīng)濟型，避免潛在的風(fēng)險與威脅的同時，降低算力消耗和技術(shù)成本。
五是科研范式突破與重構(gòu)。借助超級智能超強的科學(xué)規(guī)律發(fā)現(xiàn)能力，探索如何對現(xiàn)有的科研范式和科學(xué)體系進行重構(gòu)，突破傳統(tǒng)科學(xué)研究的局限，開拓新的科學(xué)領(lǐng)域和研究方法。
當(dāng)模型自我迭代能力占據(jù)主導(dǎo)地位以后，AI會加速度實現(xiàn)向超級人工智能的演化。人民中科相關(guān)負(fù)責(zé)人表示，將圍繞實驗室建設(shè)，開展超級人工智能的研究，并推進相關(guān)成果落地應(yīng)用在國家重大戰(zhàn)略實施和重點領(lǐng)域安全能力建設(shè)。