2023年3月20日，由中國信息通信研究院（以下簡稱“中國信通院”）云計算與大數據研究所（以下簡稱“云大所”）、人工智能關鍵技術和應用評測工業和信息化部重點實驗室（以下簡稱“實驗室”）主辦，南京新一代人工智能研究院承辦，南京經濟技術開發區人工智能企業產業鏈黨建聯盟協辦的首屆生成智能產業峰會順利召開。

會上，中國信通院正式發布“生成式人工智能技術及產品評估方法”系列標準“技術能力”和“產品能力”兩部分標準，并為標準核心編寫單位、編寫單位頒發證書，美亞柏科作為工作組成員單位被授予“生成式人工智能技術以及產品評估方法標準編寫單位”證書。

美亞柏科代表領取證書（左5）

近年來，人工智能各項技術飛速發展，應用更加普及多元。其中，深度合成和生成式AI技術作為人工智能領域的創新應用技術，以其較低的應用門檻、較強的娛樂屬性、豐富的應用場景備受關注。近日火爆全網的ChatGPT以及“換臉”、AI繪畫、虛擬主播等大家所熟知的場景都使用了深度合成和生成式AI技術。在深度合成和生成式AI技術向社會生活的各個領域滲透之時，AI安全的負面風險持續加劇且產生實質危害。隨著深度合成和生成式AI技術的開放開源、深度合成和生成產品和服務的增多，此類內容制作的技術門檻越來越低，實現了技術的“平民化”。通過深度合成和生成式AI技術制造虛假音視頻圖像進行誣陷、誹謗、詐騙、勒索等違法行為已屢見不鮮。

2021年，山東省公安廳網絡安全總隊就公布了幾個利用深度合成和生成式AI技術實施詐騙的真實案例。合肥警方在“凈網2021”專項行動中打掉一個利用深度合成技術進行犯罪的團伙，犯罪嫌疑人利用電腦將一張張靜態照片制作為人臉動態視頻，為黑灰產業鏈提供注冊手機卡等技術支撐。

另一方面，深度合成和生成式AI技術一旦被濫用，將會造成巨大的安全風險與實質性危害，給個人、企業造成肖像、名譽等人格和財產權益損害，也可能給社會秩序、國家政治穩定和安全造成巨大威脅。

如將深度合成和生成式AI技術用于捏造國家政要言論、偽造公務人員虛假視頻，可能給政治安全和國家安全帶來重大危害。對個人與企業來說，深度合成和生成式AI技術的濫用也可能造成巨大權益損害。如企業高管被深度合成捏造視頻篡改發言內容，可能造成市場恐慌，引發金融市場動蕩。個人也可能被偽造虛假音視頻等，被用來向其親友詐騙或者偽造不雅視頻侵害其名譽權。

由此可見，深度合成和生成式AI技術的快速發展為數字經濟發展帶來了令人期待的可能性，但也帶來了令人擔憂的巨大風險。有效治理深度合成和生成式AI技術需技術與立法齊頭并進。

治理：立法規范

日前，為規范深度合成服務，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）。《規定》通過系統性、創新性制度設計，首次回應了對深度合成服務的管理要求，為互聯網信息服務深度合成的規范發展提供了基本遵循和合法依據。