AI時代，如何讓治理跟上技術步伐？
更新時間：2025/3/28 9:32:51 來源：新華社CNML文字
新聞中心首頁
新華社海南博鰲3月27日電 題：AI時代，如何讓治理跟上技術步伐？
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫生”參與病情會診，到“AI數智員工”輔助提供公共服務，再到人形機器人進廠上班……全球人工智能技術進入爆發式發展階段，正以前所未有的速度走入千家萬戶、改變千行百業。當AI重塑我們熟悉的世界，隨之而來的機遇與挑戰如何應對？應用與治理如何平衡推進？
正在舉行的博鰲亞洲論壇2025年年會上，國內外技術前沿領域專家、學者和企業代表就相關話題展開熱烈討論。
適應AI“新常態”
當下，人工智能加速賦能千行百業，進入教育、醫療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口，大眾對AI應用產生更多期待。
畢馬威中國首席技術官及創新主管合伙人劉建剛表示，人工智能已經不是一個未來概念，對很多企業而言，利用人工智能加速決策、創新產品、優化運營，已不是選擇題，而是必答題。
數據顯示，2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個，注冊用戶超6億；工業機器人裝機量占全球過半。
今年政府工作報告提出，持續推進“人工智能+”行動。國務院研究室副主任陳昌盛表示，今年將開展新技術新產品新場景大規模應用示范行動，在確保安全前提下，加快人工智能在低空經濟、教育培訓、醫療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示，當前人工智能通用型應用加速普及，但在行業領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上，結合不同行業應用場景需求，加強專屬領域定制與深度訓練，讓大模型成為懂行業的“能工巧匠”，促進人工智能與產業真正結合。
有觀點認為，未來可能出現自然人、機器人、數字人并存交互的社會形態。《博鰲亞洲論壇亞洲經濟前景及一體化進程2025年度報告》指出，隨著人工智能技術的廣泛應用，部分行業就業受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程，有些崗位受影響，也會有新崗位出現。”vivo高級副總裁、首席技術官施玉堅說，每個人都要通過學習不斷提升綜合素質，適應AI帶來的變化。
多位與會嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會保障政策，加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上，與會嘉賓普遍認為，隨著AI能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經地胡說八道。清華大學公共管理學院院長朱旭峰表示，這是AI幻覺，指大模型有時混淆事實和虛構，在看似是事實的句子中插入錯誤細節。AI胡編亂造可能產生誤導，甚至會引發嚴重后果，特別是在醫療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟，我們不能因噎廢食。”朱旭峰說，要加大對技術的開發和使用，推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數據，數據安全與隱私保護備受公眾關注。多位與會嘉賓表示，現實中，具體應用場景下哪些數據必須收集，敏感信息數據如何避免泄露等，需要進一步明晰相關制度規則。
施玉堅認為，隨著AI技術的普及，企業對數據的依賴程度日益加深，如果不采取相應的安全措施，就可能造成數據泄露的風險。“數據要進行脫敏或加密處理，增強傳輸和存儲過程中的安全性。”
AI技術的濫用誤用是顯著風險之一。有統計顯示，2024年全球發生的AI風險事件，超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示，AI深度偽造現象層出不窮，主要在于造假成本低，追查、執法成本大，應針對AI誤用濫用完善相關法律法規，加大懲罰力度。
伴隨AI產生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅認為，倫理安全應作為人工智能大模型發展的“基因”，如何在追求技術進步的同時堅守道德底線，是需要共同面對的重要課題。
“人工智能的發展與安全不是互相掣肘的關系。”曾毅說，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時，通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐？與會嘉賓表示，AI治理是一個全球性的復雜問題，需要達成世界共識，推動各領域相互協作。目前，主要經濟體都在加速相關立法進程。
在AI治理中，中國堅持統籌發展和安全，有關部門已發布多項AI治理指導文件。其中，前不久發布的《人工智能生成合成內容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業家、科學家等利益相關方應聚在一起，建立共識，通過制定標準來應對AI帶來的治理挑戰。
“AI醫生”看病出了問題算誰的責任？當人工智能系統產生不良后果，如何確定責任歸屬也需進一步厘清。“多位嘉賓都提到一個觀點，不要讓人工智能完全代替人的決策，這是人工智能應用時必須注意的問題。”曾毅說。
高質量數據是AI應用大規模落地的重要支撐，構建一個完善而成熟的數據市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據實際情況，建立符合自身需要的數據監管方案與路徑。
與會嘉賓表示，AI時代到來，要堅持應用與治理平衡、創新與監管并重、全球化與本土化協同，防止數字鴻溝變成智能鴻溝，讓AI真正成為推動社會進步的普惠力量。
 |
 |
 |
 |
焦作網免責聲明： | |||||||
|
||||||||
新華社海南博鰲3月27日電 題：AI時代，如何讓治理跟上技術步伐？
新華社“新華視點”記者宋佳、王存福、劉開雄
從“AI兒科醫生”參與病情會診，到“AI數智員工”輔助提供公共服務，再到人形機器人進廠上班……全球人工智能技術進入爆發式發展階段，正以前所未有的速度走入千家萬戶、改變千行百業。當AI重塑我們熟悉的世界，隨之而來的機遇與挑戰如何應對？應用與治理如何平衡推進？
正在舉行的博鰲亞洲論壇2025年年會上，國內外技術前沿領域專家、學者和企業代表就相關話題展開熱烈討論。
適應AI“新常態”
當下，人工智能加速賦能千行百業，進入教育、醫療、政務、金融等場景。越來越多人感受到AI帶來的便利。從無人駕駛、機器人到腦機接口，大眾對AI應用產生更多期待。
畢馬威中國首席技術官及創新主管合伙人劉建剛表示，人工智能已經不是一個未來概念，對很多企業而言，利用人工智能加速決策、創新產品、優化運營，已不是選擇題，而是必答題。
數據顯示，2024年我國完成備案并上線提供服務的生成式人工智能大模型接近200個，注冊用戶超6億；工業機器人裝機量占全球過半。
今年政府工作報告提出，持續推進“人工智能+”行動。國務院研究室副主任陳昌盛表示，今年將開展新技術新產品新場景大規模應用示范行動，在確保安全前提下，加快人工智能在低空經濟、教育培訓、醫療健康等多場景應用。
中興通訊股份有限公司董事長李自學表示，當前人工智能通用型應用加速普及，但在行業領域還存在不好用、不易用、不會用等問題。應在通用基礎大模型上，結合不同行業應用場景需求，加強專屬領域定制與深度訓練，讓大模型成為懂行業的“能工巧匠”，促進人工智能與產業真正結合。
有觀點認為，未來可能出現自然人、機器人、數字人并存交互的社會形態。《博鰲亞洲論壇亞洲經濟前景及一體化進程2025年度報告》指出，隨著人工智能技術的廣泛應用，部分行業就業受到嚴重影響。
“替代部分工作崗位是技術變革中的必然過程，有些崗位受影響，也會有新崗位出現。”vivo高級副總裁、首席技術官施玉堅說，每個人都要通過學習不斷提升綜合素質，適應AI帶來的變化。
多位與會嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會保障政策，加強對受沖擊勞動者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場人工智能相關活動上，與會嘉賓普遍認為，隨著AI能力越來越強，AI不可控、被濫用等風險會越來越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經地胡說八道。清華大學公共管理學院院長朱旭峰表示，這是AI幻覺，指大模型有時混淆事實和虛構，在看似是事實的句子中插入錯誤細節。AI胡編亂造可能產生誤導，甚至會引發嚴重后果，特別是在醫療、金融、法律等對信息真實性和準確性要求極高的領域。
“技術暫時不成熟，我們不能因噎廢食。”朱旭峰說，要加大對技術的開發和使用，推動AI幻覺等問題隨技術不斷進步逐步解決。
AI應用過程中需要使用大量數據，數據安全與隱私保護備受公眾關注。多位與會嘉賓表示，現實中，具體應用場景下哪些數據必須收集，敏感信息數據如何避免泄露等，需要進一步明晰相關制度規則。
施玉堅認為，隨著AI技術的普及，企業對數據的依賴程度日益加深，如果不采取相應的安全措施，就可能造成數據泄露的風險。“數據要進行脫敏或加密處理，增強傳輸和存儲過程中的安全性。”
AI技術的濫用誤用是顯著風險之一。有統計顯示，2024年全球發生的AI風險事件，超過30%與利用AI進行深度偽造相關。深度偽造名人形象、聲音進行虛假宣傳甚至詐騙不時見諸報端。
多位嘉賓表示，AI深度偽造現象層出不窮，主要在于造假成本低，追查、執法成本大，應針對AI誤用濫用完善相關法律法規，加大懲罰力度。
伴隨AI產生的倫理道德爭議也不容忽視。中國科學院自動化研究所研究員、聯合國人工智能高層顧問機構專家曾毅認為，倫理安全應作為人工智能大模型發展的“基因”，如何在追求技術進步的同時堅守道德底線，是需要共同面對的重要課題。
“人工智能的發展與安全不是互相掣肘的關系。”曾毅說，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時，通過科學的方式提升其安全能力。
讓治理跟上技術步伐
如何讓治理跟上AI技術步伐？與會嘉賓表示，AI治理是一個全球性的復雜問題，需要達成世界共識，推動各領域相互協作。目前，主要經濟體都在加速相關立法進程。
在AI治理中，中國堅持統籌發展和安全，有關部門已發布多項AI治理指導文件。其中，前不久發布的《人工智能生成合成內容標識辦法》重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來，政策制定者、企業家、科學家等利益相關方應聚在一起，建立共識，通過制定標準來應對AI帶來的治理挑戰。
“AI醫生”看病出了問題算誰的責任？當人工智能系統產生不良后果，如何確定責任歸屬也需進一步厘清。“多位嘉賓都提到一個觀點，不要讓人工智能完全代替人的決策，這是人工智能應用時必須注意的問題。”曾毅說。
高質量數據是AI應用大規模落地的重要支撐，構建一個完善而成熟的數據市場也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據實際情況，建立符合自身需要的數據監管方案與路徑。
與會嘉賓表示，AI時代到來，要堅持應用與治理平衡、創新與監管并重、全球化與本土化協同，防止數字鴻溝變成智能鴻溝，讓AI真正成為推動社會進步的普惠力量。
 |
|
||||
|
焦作網免責聲明： | |||||||
|
||||||||
|
|
