12月11日，“2024生成式人工智能安全大賽頒獎儀式暨大模型安全技術研討會”在北京隆重舉辦。大賽于2024年4月26日在中關村論壇上發布，并匯聚了國內科研院所/企業團隊在內的200多支隊伍報名參加三個賽道初賽，有22支隊伍參加復賽。經過組委會嚴格審定，最終決出每個賽道的優勝團隊和前三名。其中，騰易科技（原易車公司升級）斬獲大賽“安全檢測”賽道亞軍的優異成績，同時在非公企業和同行業雙雙取得第一。

　　近年來，人工智能的發展日新月異，生成式大模型正在成為驅動新質生產力發展的新動能、人類探索未知的新工具。在賦能新時代發展的同時，生成式人工智能也給全球帶來了前所未有的安全風險。為有效發現、分析、應對生成式人工智能安全風險，在2024年中關村論壇數據安全治理與發展論壇上，以“共筑安全星河，護航AI發展”為主題的首屆生成式人工智能安全大賽正式舉辦。 

　　大賽由北京市互聯網信息辦公室和中國科學院網絡安全和信息化領導小組辦公室共同指導，中國科學院信息工程研究所和信息內容安全國家工程研究中心共同主辦。并設置安全攻擊、安全檢測、對齊防護三大賽道，旨在從攻、檢、防三個方面，聚集國內優勢力量，有效發現、分析、應對大模型安全風險，不斷提升人工智能基礎底座的安全可控水平，更好地促進北京市及全國的大模型產業安全發展。 

　　其中安全檢測賽道面向生成式內容安全風險檢測需求，設置生成式內容安全風險檢測技術賽題。參賽單位根據提供的生成式內容數據集，通過檢測引擎，識別其有害性。

　　在本賽道中，騰易科技的AI安全大模型能力得到有效考驗和優異展示。其能力主要聚焦及體現在5個方面： 

　　1.有害性檢測：AI安全大模型能夠檢測生成內容的安全性和合規性，識別出模型回答中的有害與無害內容，確保內容的真實性、無害性。 

　　2.多類別識別：模型能夠覆蓋多種有害類型，包括仇恨辱罵、倫理道德、偏見歧視、身心健康、違法犯罪、謠言錯誤、隱私財產等9類有害內容。 

　　3.數據構造能力：模型通過公開數據收集、數據生成、標注策略設計來保證標注數據的質量，并采用多折訓練大模型作為“標注人員”的方式來進行海量標注數據的擴展。 

　　4.模型評測與優化：模型在基座模型選擇、微調、資源消耗分析等方面表現出色，通過兩階段訓練實現模型效果的優化。 

　　5.高準確率：在評測和實驗對比中，經過微調的Gemma-2b-it模型表現出較好的效果，尤其是在小數據集上訓練時，能夠更關注深層語義特征。 

　　騰易科技相關負責人表示，騰易科技專注于汽車產業的人工智能科技創新，并重視安全風險和合規問題，始終將內容安全、用戶安全放在首位。本次大賽檢驗了公司的AI安全大模型能力，也充分體現了我司的技術實力。非常高興組委會對于我司的認可，優異成績的取得對于公司也具有重大的意義，期待騰易科技在后續的政企合作中繼續發揮積極作用。 

　　據悉，騰易科技自主研發的三款人工智能產品“藍圖”“易筆生花”與“易靈析”已成功通過生成式人工智能服務備案，并獲得備案批號。其大模型將AI技術與汽車流通領域緊密結合，不僅提升了行業的生產效率，還使得信息能夠更有效地觸達消費者，從而助力商業化探索。