英國AI安全研究所推出AI模型安全評估平臺
據(jù)報道，英國人工智能安全研究院近日發(fā)布了名為“Inspect”的AI模型安全評估平臺，此平臺采用開源技術(shù)且對全球AI工程師免費開放，旨在提升模型性能與安全測評效率。
Inspect平臺包括“數(shù)據(jù)集”、“求解器（Solver）”、“評分器”三大模塊，用于評估AI模型在核心知識儲備、推理能力和自主能力等方面的表現(xiàn)。
根據(jù)模型測試結(jié)果，這些模塊會對各項指標進行評分。此外，Inspect平臺還支持Python外掛其他測試框架。
英國AI安全研究院院長Ian Hogarth表示，他們推出Inspect平臺的初衷在于“堅信開源的力量”，希望通過該平臺激發(fā)更多人參與貢獻，提高AI模型透明度和可重復(fù)性，并降低工程師的研發(fā)成本。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報投訴
-
人工智能
+關(guān)注
關(guān)注
1820文章
50325瀏覽量
266952 -
模型
+關(guān)注
關(guān)注
1文章
3818瀏覽量
52269 -
開源技術(shù)
+關(guān)注
關(guān)注
0文章
389瀏覽量
8764
發(fā)布評論請先 登錄
相關(guān)推薦
熱點推薦
AI大模型微調(diào)企業(yè)項目實戰(zhàn)課
的附加參數(shù)，就能達到甚至超越全量微調(diào)的效果，讓單卡微調(diào)百億參數(shù)大模型成為現(xiàn)實。
第三步：對齊與評估——確保輸出安全可控
微調(diào)后的模型可能會產(chǎn)生價值觀偏移或越界回答。因此，實戰(zhàn)的最后一步
發(fā)表于 04-16 18:48
華為聯(lián)合發(fā)布2026年行業(yè)數(shù)智化AI安全實踐研究報告
近日，華為聯(lián)合中國信息通信研究院人工智能研究所、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）安全治理委員會共同編制《行業(yè)數(shù)智化AI安全實踐
商湯大裝置SenseCore原生AI云平臺榮獲軟件供應(yīng)鏈安全能力評估認證
近期，商湯大裝置SenseCore原生AI云平臺通過工業(yè)和信息化部電子工業(yè)標準化研究院組織的軟件供應(yīng)鏈安全能力評估，獲評優(yōu)秀級，成為全國首批
使用NORDIC AI的好處
，時延更低，系統(tǒng)在網(wǎng)絡(luò)不穩(wěn)定甚至離線時也能繼續(xù)工作。[Edge AI 概述]
提升隱私與可靠性
原始傳感器數(shù)據(jù)（如運動、生理信號等）可以留在本地，只上傳推理結(jié)果，有利于隱私與數(shù)據(jù)安全。
本地決策
發(fā)表于 01-31 23:16
嵌入式軟件單元測試中AI自動化與人工檢查的協(xié)同機制研究：基于專業(yè)工具的實證分析
分析、工具評估、實證研究與標準解讀，得出以下結(jié)論：
?嵌入式軟件因安全關(guān)鍵性、實時性與硬件耦合性，對單元測試的要求遠高于通用軟件?，必須使用專業(yè)工具如winAMS；
?AI自動化測試顯
發(fā)表于 12-31 11:22
過程×框架×平臺：安全“三支柱”護航AI應(yīng)用量產(chǎn)落地
經(jīng)緯恒潤汽車電子產(chǎn)品事業(yè)部高級總監(jiān)邵亮受邀參加“AI+智能汽車:融合創(chuàng)新與生態(tài)共建”論壇并發(fā)表題為《從“可用”到“可信”：道路車輛AI系統(tǒng)安全實踐探索》主題演講，剖析了當前AI技術(shù)在車
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+AI的科學(xué)應(yīng)用
流體芯片
⑤AI計算平臺
⑥基于AI的自主決策系統(tǒng)
⑦基于AI的自主學(xué)習系統(tǒng)
2、面臨的挑戰(zhàn)
①需要造就一個跨學(xué)科、全面性覆蓋的知識庫和科學(xué)基礎(chǔ)模型
發(fā)表于 09-17 11:45
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+可期之變：從AI硬件到AI濕件
保持停滯的情況下，依照目前計算機的能耗效率，至少還需要30年的努力才接近其水準，見圖1所示。
圖1 大腦與計算機的能量效率對比
圖2 類腦芯片的前瞻性研究領(lǐng)域AI濕件
為此，一些想法超前的科學(xué)家
發(fā)表于 09-06 19:12
【「AI芯片：科技探索與AGI愿景」閱讀體驗】+內(nèi)容總覽
《AI芯片：科技探索與AGI愿景》這本書是張臣雄所著，由人民郵電出版社出版，它與《AI芯片：前沿技術(shù)與創(chuàng)新未來》一書是姊妹篇，由此可見作者在AI芯片領(lǐng)域的功力和造詣。
作者畢業(yè)于上海交
發(fā)表于 09-05 15:10
DXC與7AI攜手推出革命性的AI驅(qū)動安全運營服務(wù)
基于智能體的新型安全服務(wù)通過自主AI智能體降低運營成本，同時加快響應(yīng)并擴大覆蓋范圍 2025年，7AI平臺已為各安全團隊節(jié)省22.4萬個分析
AI應(yīng)用的“安全鎖”：安全閃存技術(shù)在滿足行業(yè)認證中的作用
全面審視并應(yīng)對網(wǎng)絡(luò)攻擊威脅，在確保AI應(yīng)用持續(xù)穩(wěn)定運行的同時保障其安全性。數(shù)據(jù)投毒、分類模型篡改、后門注入攻擊以及AI模型逆向工程，這些僅僅
發(fā)表于 07-15 10:51
?1515次閱讀
關(guān)于鴻蒙App上架中“AI文本生成模塊的資質(zhì)證明文件”的情況說明
的應(yīng)用缺少AI文本生成模塊的資質(zhì)證明文件，不符合相關(guān)法律法規(guī)要求。
修改建議：AI文本生成模塊需補充提供《安全評估報告》并加手寫簽名、《安全
發(fā)表于 06-30 18:37
威盛電子推出天車安全AI監(jiān)控方案
近日，威盛電子宣布推出”威盛天車安全AI監(jiān)控方案”。該方案基于自主研發(fā)的AI技術(shù)，集成行人姿態(tài)識別、精準防撞預(yù)警和智能分區(qū)警示等功能，大幅提升橋式起重機(天車)的
萬里紅入選安全大模型及Agentic AI賦能網(wǎng)絡(luò)安全代表性廠商
近日，專注于網(wǎng)絡(luò)安全和數(shù)字風險管理的第三方研究機構(gòu)安全牛，正式發(fā)布了《Agentic AI安全技術(shù)應(yīng)用報告》(以下簡稱“報告”)。報告依托多
評論