在線客服
企業(yè)微信
以負責任態(tài)度推動生成式人工智能發(fā)展
今年以來，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對經(jīng)濟發(fā)展、社會進步、公益事業(yè)及科學(xué)研究起到積極的推動作用，但同時也帶來包括技術(shù)內(nèi)在風險引發(fā)安全隱患、人機關(guān)系變化深化科學(xué)倫理失范、技術(shù)躍進引發(fā)人類社會發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會正式發(fā)布《發(fā)展負責任的生成式人工智能研究報告及共識文件》（以下簡稱《報告》）。作為大會的重要成果，《報告》由世界互聯(lián)網(wǎng)大會人工智能工作組編寫。工作組成立于今年8月，成員來自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫、國際組織、高校等，致力于推動發(fā)展負責任的人工智能。
《報告》具有鮮明可執(zhí)行性
《報告》提出，應(yīng)正確認識生成式人工智能所蘊含的巨大潛力和可能風險，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風險的理念，推動生成式人工智能負責任地發(fā)展。一方面，應(yīng)積極推動創(chuàng)新、可持續(xù)、包容開放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開放的能力；另一方面，以高度負責任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護、多元包容、明確責任、價值對齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負責任的生成式人工智能十條共識，還搜集了全球企業(yè)將生成式人工智能應(yīng)用于交通、金融、教育、醫(yī)療等14個領(lǐng)域的57個實踐案例。”世界互聯(lián)網(wǎng)大會常務(wù)副秘書長梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進展，開始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負責任的態(tài)度推動生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類型文件，《報告》提出具有極強可操作性的共識意見，包括明晰歸責體系、構(gòu)建追溯機制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類倫理道德的共識，從探索價值對齊研究和提升價值對齊技術(shù)兩個方面入手，在可操作性與可實現(xiàn)性方面具有鮮明特點。
不同主體承擔應(yīng)有責任
“人工智能技術(shù)能力越強，潛在隱藏的風險可能越大。”中國科學(xué)院自動化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺、數(shù)據(jù)偏見等內(nèi)生風險，到錯誤使用、惡意使用造成的風險，“最大的風險可能來自對人工智能的能力將達到何種水平的不確定性，這帶來對風險及連帶的風險控制體系的不確定性。”
“我們強調(diào)公平性，去除偏見，也特別強調(diào)追責。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗，在從開發(fā)、使用到退出的整個周期，技術(shù)必須是可以回溯、可以追責的，同時，生成式人工智能需要產(chǎn)生一個可以復(fù)制的可靠結(jié)果。
“發(fā)展負責任的生成式人工智能，需要產(chǎn)業(yè)鏈各個環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔應(yīng)有責任。”中國信息通信研究院人工智能創(chuàng)新中心負責人、世界互聯(lián)網(wǎng)大會人工智能工作組副組長魏凱表示。
在印象筆記董事長唐毅看來，面對新技術(shù)帶來的爆發(fā)式增長與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進而推動產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災(zāi)害管理、性別平等、智能出行、智慧城市，這些場景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國可持續(xù)發(fā)展目標。”國際電信聯(lián)盟標準化局戰(zhàn)略部主任、AI向善峰會負責人弗里德里克·維爾納把目光對準人工智能對可持續(xù)發(fā)展的作用，但他同時強調(diào)，自動化導(dǎo)致的數(shù)據(jù)偏見、歧視，對道德、安全、隱私的擔憂，以及對進一步加深數(shù)字鴻溝的可能等令人無法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學(xué)術(shù)界、非政府組織、民間社會，大家要盡可能多地發(fā)出聲音。
（科技日報浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
今年以來，以ChatGPT為代表的生成式人工智能廣受關(guān)注，其對經(jīng)濟發(fā)展、社會進步、公益事業(yè)及科學(xué)研究起到積極的推動作用，但同時也帶來包括技術(shù)內(nèi)在風險引發(fā)安全隱患、人機關(guān)系變化深化科學(xué)倫理失范、技術(shù)躍進引發(fā)人類社會發(fā)展等挑戰(zhàn)。
11月9日，2023年世界互聯(lián)網(wǎng)大會正式發(fā)布《發(fā)展負責任的生成式人工智能研究報告及共識文件》（以下簡稱《報告》）。作為大會的重要成果，《報告》由世界互聯(lián)網(wǎng)大會人工智能工作組編寫。工作組成立于今年8月，成員來自全球40余家產(chǎn)業(yè)鏈企業(yè)和高端智庫、國際組織、高校等，致力于推動發(fā)展負責任的人工智能。
《報告》具有鮮明可執(zhí)行性
《報告》提出，應(yīng)正確認識生成式人工智能所蘊含的巨大潛力和可能風險，遵循統(tǒng)籌發(fā)展和安全、平衡創(chuàng)新與倫理、均衡效益與風險的理念，推動生成式人工智能負責任地發(fā)展。一方面，應(yīng)積極推動創(chuàng)新、可持續(xù)、包容開放的發(fā)展，提升生成式人工智能算力高效、數(shù)據(jù)高質(zhì)、算法創(chuàng)新、人才多元、生態(tài)開放的能力；另一方面，以高度負責任的態(tài)度發(fā)展可靠可控、透明可釋、數(shù)據(jù)保護、多元包容、明確責任、價值對齊的生成式人工智能。
“工作組總結(jié)提煉了發(fā)展負責任的生成式人工智能十條共識，還搜集了全球企業(yè)將生成式人工智能應(yīng)用于交通、金融、教育、醫(yī)療等14個領(lǐng)域的57個實踐案例。”世界互聯(lián)網(wǎng)大會常務(wù)副秘書長梁昊在“人工智能賦能產(chǎn)業(yè)發(fā)展論壇”上介紹。
生成式人工智能展現(xiàn)出強大的生成創(chuàng)造能力，在文本、代碼、圖像、音視頻等方面的理解與生成取得突破性進展，開始涌現(xiàn)出“智慧”。速度之快、賦能范圍之廣、影響程度之深前所未有。以負責任的態(tài)度推動生成式人工智能發(fā)展不僅十分必要，也愈發(fā)緊迫。
據(jù)介紹，相比同期其他類型文件，《報告》提出具有極強可操作性的共識意見，包括明晰歸責體系、構(gòu)建追溯機制、探索治理沙盒等創(chuàng)新友好型治理體系。其關(guān)于推動生成式人工智能更好地理解人類意圖、遵循人類指令并符合人類倫理道德的共識，從探索價值對齊研究和提升價值對齊技術(shù)兩個方面入手，在可操作性與可實現(xiàn)性方面具有鮮明特點。
不同主體承擔應(yīng)有責任
“人工智能技術(shù)能力越強，潛在隱藏的風險可能越大。”中國科學(xué)院自動化研究所人工智能倫理與治理研究中心主任曾毅談到，從幻覺、數(shù)據(jù)偏見等內(nèi)生風險，到錯誤使用、惡意使用造成的風險，“最大的風險可能來自對人工智能的能力將達到何種水平的不確定性，這帶來對風險及連帶的風險控制體系的不確定性。”
“我們強調(diào)公平性，去除偏見，也特別強調(diào)追責。”思科大中華區(qū)副總裁卜憲錄介紹了相關(guān)經(jīng)驗，在從開發(fā)、使用到退出的整個周期，技術(shù)必須是可以回溯、可以追責的，同時，生成式人工智能需要產(chǎn)生一個可以復(fù)制的可靠結(jié)果。
“發(fā)展負責任的生成式人工智能，需要產(chǎn)業(yè)鏈各個環(huán)節(jié)緊密配合，踐行共商、共建、共治、共享理念，不同主體各自承擔應(yīng)有責任。”中國信息通信研究院人工智能創(chuàng)新中心負責人、世界互聯(lián)網(wǎng)大會人工智能工作組副組長魏凱表示。
在印象筆記董事長唐毅看來，面對新技術(shù)帶來的爆發(fā)式增長與亂象，從業(yè)者要在充分理解技術(shù)發(fā)展的成熟度、市場需求、商業(yè)模式的可行性及法律約束等因素的基礎(chǔ)上，去尋求新技術(shù)的落地突破，進而推動產(chǎn)業(yè)變革。
“從氣候變化到全民教育、自然災(zāi)害管理、性別平等、智能出行、智慧城市，這些場景肯定存在人工智能的身影。人工智能等數(shù)字解決方案可以直接惠及70%的聯(lián)合國可持續(xù)發(fā)展目標。”國際電信聯(lián)盟標準化局戰(zhàn)略部主任、AI向善峰會負責人弗里德里克·維爾納把目光對準人工智能對可持續(xù)發(fā)展的作用，但他同時強調(diào)，自動化導(dǎo)致的數(shù)據(jù)偏見、歧視，對道德、安全、隱私的擔憂，以及對進一步加深數(shù)字鴻溝的可能等令人無法忽視。
“人工智能太重要了，不能只留給專家們。”弗里德里克呼吁，從產(chǎn)業(yè)界到政府、學(xué)術(shù)界、非政府組織、民間社會，大家要盡可能多地發(fā)出聲音。
（科技日報浙江烏鎮(zhèn)11月9日電 記者 崔 爽）
