AI大模型技术的迅速迭代，对AI治理提出了更高要求，阿里也开始更多思考如何做好AI治理。AI治理提上日程。
作者 | 劉寶丹
編輯 | 黃昱
AI大模型技術的迅速迭代，對AI治理提出了更高要求，阿里也開始更多思考如何做好AI治理。
近日，在大模型技術發展與治理創新研討會上，阿里巴巴集團副總裁錢磊表示，爲了對大模型進行有效治理，提高它的可控性，降低應用風險，阿里圍繞着大模型研發、應用全生命週期，全面部署了安全保障措施。
一是提高模型內生安全能力。在數據採集、處理階段強調源頭管控，進行嚴格的數據篩選和數據安全標註；在模型訓練和設計階段通過添加安全語料；在模型上線前進行全面安全評估，確保各類風險項目在生成內容上的合格率。
二是加強外圍護欄能力。在模型部署應用後，通過外圍護欄進一步提升大模型在應用場景中的安全性，通過日常巡檢驗證結果是不是能夠達到預期，是不是可靠性、可信、可用都能夠達到阿里的要求。
阿里還與中國電子技術標準化研究院聯合發佈了《大模型技術發展及治理實踐報告》，這是阿里巴巴連續第三年發佈AI治理相關研究成果，進一步深化了阿里在技術研發與治理領域的經驗總結。
阿里研究院院長袁媛認爲，AI大模型的治理思路是解析大模型發展中三個最核心的發展引擎—算力、算法、數據，給出一個適合中國發展的路徑，以數據爲例，在符合真實世界的特徵的前提下，合成數據能幫助模型突破當前的能力上限，並且能夠降低更多的安全困擾。
自從2022年底，ChatGPT在全球出圈，AI大模型已經成爲科技巨頭們爭相押注的賽道，阿里就是其中的核心參與力量。
在AI大模型方面，阿里堅持雲和AI協同發展，將雲從IT和DT的基礎設施向人工智能基礎設施方向去演進。據錢磊介紹，阿里會持續加大投入，一是提高自研基礎模型通義系列的能力，二是通過完善AI基礎設施和相關支撐系統，降低模型應用開發的成本。
「通義千問」API調用價格一年間下降了97%。同時，阿里堅持全尺寸、全模態開源，推動把AI能力真正轉化成爲千行百業的生產力。目前已經有30萬+企業接入了阿里巴巴通義千問大模型。
Hugging Face社區的數據顯示，基於「通義」模型開發的衍生模型已突破8萬個，已吸引超過600萬AI開發者參與，在全球開源平台的下載量已突破1億次。
在阿里看來，在發展大模型前沿技術推動人工智能應用的同時，也要高度重視人工智能的安全，負責任地去看待大模型帶來的安全問題。
不過，AI大模型還處於快速迭代中，解決好安全和治理問題的關鍵在於，在發展和風險之間做好平衡，這就好比是高速路上換零件，需要極高的智慧和專業。
更大的挑戰還在後面，隨着AI大模型真正走進人們的生活，關於人工智能安全和治理的議題還有暴露出更多問題，所有AI相關公司都必須面對這一問題。
從來沒有一種技術像AI這樣，具有可以匹敵人類的智能，然而這也代表了，一旦AI被濫用，其破壞性也同樣值得警惕，AI治理這條路才剛剛開始，阿里已經嘗試給出自己的答卷。
