自chatgpt問世以來,人工智能行業高速發展,已成為當前社會一大主流趨勢。然而,高速發展的新行業不可避免的帶來一些弊端,生成式人工智能帶來的風險也日益顯現。例如生成技術可能被用于制造虛假信息或進行網絡攻擊,對網絡安全構成威脅;生成內容難以與真實內容區分,可能誤導公眾;AI生成內容可能觸及道德和倫理底線,如生成違法或不道德的內容。其中與網民最息息相關的還是信息泄露問題,AI需要收集更多類型的用戶信息作為“養料”,增加了個人信息泄露的風險。
在此背景下,中國信息通信研究院(簡稱“中國信通院”)聯合抖音、百度、阿里巴巴、科大訊飛、合合信息等科技企業,共同參與了《生成式人工智能個人信息保護技術要求》系列標準(下稱“標準”)的編制。
經過充分的研討,《生成式人工智能個人信息保護技術要求》系列標準覆蓋了生成式人工智能的設計、訓練與應用三個階段,主要圍繞總則、隱私聲明告知、訓練數據構建、模型規制控制、供應鏈保障、二次開發管理、輸出階段管理、個人權利響應,共計從八個方面提出個人信息保護指引。
從用戶角度看,標準的制定有利于保護個人合法權益;從企業發展角度看,標準為企業研發生成式人工智能降低了不確定性;從行業發展角度看,能為監管機構指導企業活動提供參考和依據,引導生成式AI行業健康發展。除此之外,標準也有利于企業積極承擔個人信息保護義務,為用戶提供更安全、更可靠的信息服務。
在數據安全和隱私保護方面,合合信息積極響應號召,針對產品設計、運營多個維度建立起了一套標準完善的體系、流程、控制措施和規范,獲得了多方認可。合合信息曾榮獲上海市網信辦“2023年度網絡數據安全風險評估試點工作優秀單位”稱號,旗下的掃描全能王、名片全能王、啟信寶等產品在中國網絡安全產業聯盟(CCIA)數據安全工作委員會個人信息保護影響評估專題工作(簡稱“PIA專題工作”)中榮獲“PIA二星級標識”。
此外,合合信息還發布了AI圖像安全技術方案,包括AI圖像篡改檢測、生成式圖像鑒別等重點技術,可用于對抗惡意的圖像篡改、虛假生成圖片和非法個人信息的獲取。
科技向善不僅是一項理念,更是一個實踐過程。合合信息將始終堅持擁抱創新,用技術的力量造福社會群眾,發現潛在風險,積極尋求行業共識和解決方案,讓人們在AI發展的高速列車上享受科技帶來的便利生活。
相關稿件