本次人工智能為兒童項目在中國網(wǎng)絡(luò)社會組織聯(lián)合會、聯(lián)合國兒童基金會的指導(dǎo)支持下，課題組查閱了國內(nèi)外大量相關(guān)政策法規(guī)、文獻資料，整理分析了征集的40份有效案例，調(diào)研了北京、上海、深圳、杭州和南京等地的6家社會組織、9家高校和科研院所及16家企業(yè)，召開了兩次專家研討和案例評審會，并征求了有關(guān)部門的意見，最終形成了《人工智能為兒童——面向兒童群體的人工智能應(yīng)用調(diào)研》報告和《人工智能為兒童案例匯編》。

中國有句古話叫做：天時、地利、人和?，F(xiàn)如今中國從中央政府到地方政府、從科研院所到企業(yè)、從社會團體到普通老百姓，都已經(jīng)開始全面擁抱人工智能。在兒童群體中，人工智能也得到了廣泛的應(yīng)用，幾乎全面融入兒童成長的各個階段。如今，正是需要探討如何加深對人工智能的信任，從而讓人工智能在中國的兒童群體的健康成長中發(fā)揮更大作用的時機。在抓住機遇的同時，承擔相應(yīng)的責任。

人工智能技術(shù)和應(yīng)用能夠為兒童成長帶來多種有益幫助。一是更廣泛的教育資源。人工智能教育是一個強大的計算機教育系統(tǒng)，相當于擁有淵博教育知識的機器人，可以集合幾十、上百、上千個特級教師的智慧、教學(xué)知識、教育經(jīng)驗為一體的機器人。個人的智慧終究有限，遠不能提供兒童成長足夠的知識，而人工智能技術(shù)幾乎擁有無限的數(shù)據(jù)庫與知識儲備，使兒童能夠接觸到更寬闊的世界。近年來，早教機器人、繪本機器人、智能兒童手表等相對成熟的產(chǎn)品不斷出現(xiàn)，它們成為兒童的“玩伴”和“老師”，寓教于樂，讓兒童通過不同途徑獲取知識。

二是更高的教學(xué)效率與質(zhì)量。人工智能可以自動化各種管理任務(wù)，為教育工作者騰出大量時間。目前，人工智能技術(shù)在教育中的應(yīng)用主要體現(xiàn)在圖像識別、語義識別、語音識別等方面，可以幫助教師批改家庭作業(yè)作業(yè)、評分測試和考試、拍照搜題、在線答疑等。這些應(yīng)用不僅提高了兒童的學(xué)習效率，也將教師從繁重低效的工作中解放出來，使他們可以把更多的時間集中在與學(xué)生的互動上，為學(xué)生提供即時反饋，進行一對一的教學(xué)。也有更多的精力關(guān)注兒童的德智體美等更高層次的教學(xué)問題，促進兒童全面成長。未來，隨著人工智能在技術(shù)和應(yīng)用場景中的更多探索，可以進一步提高教與學(xué)的針對性、有效性和科學(xué)性。

三是降低網(wǎng)絡(luò)對兒童的危害。隨著互聯(lián)網(wǎng)和智能設(shè)備的高速發(fā)展與全面普及，當代兒童正以前所未有的方式接觸互聯(lián)網(wǎng)。網(wǎng)絡(luò)上各類信息紛繁混雜，保護兒童免遭有害網(wǎng)絡(luò)信息“毒害”至關(guān)重要。網(wǎng)絡(luò)中的不良內(nèi)容和行為，可能正在父母看不到的地方侵害著兒童。而通過深度學(xué)習算法，則可以識別和預(yù)測有害內(nèi)容，在兒童可能涉及到的各類網(wǎng)站、網(wǎng)絡(luò)游戲中保護他們，過濾有害信息和預(yù)測有害行為的發(fā)生。由此可以預(yù)見，未來通過人工智能算法的不斷升級，互聯(lián)網(wǎng)將變成一個更加安全的地方，更有益于兒童的成長。

與此同時，人工智能技術(shù)應(yīng)用也會在兒童群體中形成衍生問題。一是公平性問題。人工智能的發(fā)展可能造成新的不公平。由于機器學(xué)習和深度學(xué)習的訓(xùn)練數(shù)據(jù)集和測試數(shù)據(jù)集均集中在已經(jīng)能夠深度接觸人工智能技術(shù)的群體范圍內(nèi)，將會造成數(shù)據(jù)集缺少邊遠山區(qū)、少數(shù)民族或殘障弱勢等少數(shù)群體數(shù)據(jù)，算法無法兼顧公平性，帶來性別歧視、弱勢群體接入障礙等問題，最終加劇少數(shù)群體與普通群體之間的數(shù)字鴻溝。

二是隱私問題。人工智能算法的準確度依賴于機器學(xué)習所使用的數(shù)據(jù)集，數(shù)據(jù)收集和使用的過程中如果不能得到有效的監(jiān)管，必然會導(dǎo)致用戶隱私泄露等問題。兒童作為弱勢群體，他們的數(shù)據(jù)應(yīng)得到最高程度的保護。在滿足人工智能系統(tǒng)需求的基礎(chǔ)上，應(yīng)該設(shè)計相關(guān)的隱私保護措施，同時盡量減少數(shù)據(jù)收集，以確保隱私問題得到有效解決。

三是泛人工智能亂象。人工智能已經(jīng)在所有領(lǐng)域得到廣泛應(yīng)用，并被社會熱捧。但我們必須認識到，目前人工智能的部分應(yīng)用僅僅是淺層應(yīng)用，家長不應(yīng)被企業(yè)營造的氛圍和噱頭引導(dǎo)。尤其是人工智能教育的風靡，學(xué)校和家長不宜盲目追捧，對兒童進行人工智能教育應(yīng)以幫助兒童適應(yīng)數(shù)字化時代的到來為目的，以教授底層邏輯為主，充分考慮兒童在各年齡段的接受能力和特點，以及技術(shù)更迭的速度。

四是過度依賴人工智能。人工智能雖然可以在兒童教育、陪伴等各方面提供很多幫助，但并不能完全替代家長和學(xué)校的教育陪伴。如人工智能過多的參與導(dǎo)致兒童真實社交的減少，造成兒童社交障礙難以融入社會；社會盲目信賴人工智能等技術(shù)對游戲娛樂等應(yīng)用采取的青少年模式或防沉迷系統(tǒng)，由于隱私保護需要或家長疏忽甚至家長主動幫助，被兒童破解輕而易舉。

五是倫理道德問題。在運用新技術(shù)賦能教育的同時，最根本的倫理道德、公序良俗要遵守，教育教學(xué)的規(guī)律應(yīng)遵循。技術(shù)發(fā)展到一定程度，常常不再是科學(xué)的問題，而是上升到哲學(xué)的考量，倫理道德即其中之一。隨著市場的快速擴張，一些人工智能產(chǎn)品出現(xiàn)遭明令禁止的有害內(nèi)容，嚴重影響教學(xué)秩序、助長學(xué)習焦慮、傳播有害思想，不利于青少年身心發(fā)育和健康成長。除此之外，當人工智能深度參與人類社會的許多重要活動、讓系統(tǒng)從事決策性事務(wù)時，能否服從社會公認的準則和人類的價值觀也是人工智能的一大挑戰(zhàn)。教育工作的一項重要任務(wù)就是幫助人們樹立善良、正直、公平、公正等正確的價值道德標準。現(xiàn)在的人工智能技術(shù)水平，我們還不可能對人工智能程序進行道德教育，但是在我們開展人工智能教育時，絕不能忽視人工智能教育中的倫理教育。

如何帶動人工智能技術(shù)應(yīng)用在兒童群體中的良性發(fā)展？首先，要加強政府監(jiān)管和引導(dǎo)。為了最大限度地發(fā)揮人工智能在兒童群體中的作用，同時減少風險、盡量避免意外后果，建議在政府引導(dǎo)下，組織相關(guān)企業(yè)、社會組織、科研院所、學(xué)校、家長和兒童代表舉行公開討論。通過各方共同努力，我們可以識別具有明顯社會和經(jīng)濟后果的問題，優(yōu)先制定保護兒童群體的解決方案，同時避免不必要地限制未來的創(chuàng)新。

中國政府為新一代人工智能發(fā)展做了具體規(guī)劃，也出臺了《國家新一代人工智能標準體系建設(shè)指南》。面對快速發(fā)展的各種人工智能技術(shù)，建議政府在企業(yè)科技創(chuàng)新和具體技術(shù)路線上，督促企業(yè)秉承技術(shù)向善原則。同時站高一步，從國家利益、社會進步和人權(quán)保障的高度，去制定相應(yīng)的法規(guī)和標準，以此作為判斷技術(shù)先進性的唯一依據(jù)，促進各種技術(shù)快速進步，優(yōu)勝劣汰。同時營造人工智能技術(shù)發(fā)展良好產(chǎn)業(yè)環(huán)境，讓市場和用戶去選擇最好、最合適、最有競爭力的技術(shù)和產(chǎn)品。

要解決人工智能在兒童群體中的問題，助力兒童更好地成長，一項有益的措施就是評選和分享創(chuàng)新的最佳實踐案例，以指導(dǎo)負責任的人工智能為兒童的創(chuàng)造和應(yīng)用。行業(yè)領(lǐng)導(dǎo)組織，例如中國網(wǎng)絡(luò)社會組織聯(lián)合會，將行業(yè)內(nèi)的參與各方組織聯(lián)合起來，征集并挑選發(fā)布典型的人工智能應(yīng)用。通過鼓勵開誠布公的討論，協(xié)助分享典型實踐案例，政府還可以幫助在人工智能應(yīng)用開發(fā)者、用戶和大眾之間創(chuàng)造一種合作、信任和開放的文化。這些工作可以作為未來制定的法律和法規(guī)的基礎(chǔ)。

同時，要提高企業(yè)履行社會責任的意識。企業(yè)在人工智能技術(shù)發(fā)展中應(yīng)遵循科技向善原則。人工智能是深刻影響未來的戰(zhàn)略性科技，在針對和涉及兒童的技術(shù)、產(chǎn)品研發(fā)中心，應(yīng)恪守社會責任，制定相應(yīng)的準則。面對人工智能對人類提出的的哲學(xué)、道德和實踐方面的挑戰(zhàn)，應(yīng)盡快出臺人工智能的相關(guān)政策和規(guī)劃?？萍紕?chuàng)新本無好壞之分，關(guān)鍵在于使用科技的人。只有進一步加強科技倫理對科技活動的引導(dǎo)和規(guī)范，才能促使科技活動朝著更加有利于人類和人類社會的方向發(fā)展，通過技術(shù)資源為人類社會可持續(xù)發(fā)展創(chuàng)造福祉。

要提升相關(guān)產(chǎn)品和應(yīng)用安全性。隨著兒童智能產(chǎn)品市場爆發(fā)，國內(nèi)外很多中小廠商進入市場，他們或許尚未具備完善的安全設(shè)計研發(fā)能力，在產(chǎn)品設(shè)計和生產(chǎn)中都存在些許漏洞，自身也不能進行及時而完善的修復(fù)，導(dǎo)致其生產(chǎn)出來的兒童智能產(chǎn)品或存在各類安全風險。

因此需要更加重視面向兒童群體的人工智能安全應(yīng)用，確保全面保障兒童智能設(shè)備安全而健康地運行，進而保障兒童的人身安全和信息安全，讓家長和孩子都能夠放心地享受兒童智能設(shè)備帶來的陪伴、便利和教育。提倡通過制定法律法規(guī)、標準規(guī)范等手段，降低人工智能在兒童群體中應(yīng)用可能產(chǎn)生的安全隱私、倫理道德、身心危害等問題。

要重視家長的深度參與。要保障兒童在數(shù)字環(huán)境中的權(quán)利，充分享受人工智能為兒童帶來的福利和權(quán)益，家長必須深度參與，才能與政府、企業(yè)和學(xué)校形成合力。面對飛速發(fā)展的人工智能，家長對兒童的教育需要進行調(diào)整。利用人工智能這一有力工具，為兒童提供優(yōu)質(zhì)的教育，是當下家長們最應(yīng)該關(guān)注的事。多讓兒童接觸人工智能的實際應(yīng)用，并對兒童進行正確引導(dǎo)，才能利用人工智能更好地輔助兒童的學(xué)習與生活。家長們可以、也應(yīng)該將人工智能相關(guān)知識教授給兒童，與兒童、與人工智能一同成長，迎接一個更美好的世界。

此外，要加強國際交流合作。據(jù)有關(guān)機構(gòu)預(yù)測，2030年，人工智能將帶動全球GDP增長14%；其中，最大的收益將來自中國與北美，總計高達10.7萬億美元，占全球經(jīng)濟影響的近70%。由此可見，在如此巨大的經(jīng)濟體量、重大創(chuàng)新領(lǐng)域中取得革命性突破與顛覆性技術(shù)是至關(guān)重要的。加強國際技術(shù)交流，開拓視野，看到全球，從國際上吸取營養(yǎng)，借鑒國際上的經(jīng)驗，有助于加快實現(xiàn)我國科技自立自強發(fā)展，將創(chuàng)新主動權(quán)、發(fā)展主動權(quán)牢牢掌握在自己手中。

自2017年7月國務(wù)院發(fā)布《新一代人工智能發(fā)展規(guī)劃》及2018年4月教育部發(fā)布《教育信息化2.0行動計劃》以來，“人工智能+教育”逐漸成為教育工作者關(guān)注的熱點。近年來，我國也多次參與并聯(lián)合世界各國各組織舉辦人工智能教育相關(guān)國際論壇，各社會組織、企業(yè)也與國外開展了豐富多樣的國際交流合作，積極探索人工智能在教育領(lǐng)域的新發(fā)展。但是我國目前與國際上的交流合作仍停留在研討、意見交流階段，實際的技術(shù)合作交流較少。全球的人工智能教育技術(shù)目前也主要停留在輔助階段，還需要時間才能觸及到教育的核心。

因此，迫切需要加強國際合作?？梢詮囊韵聨讉€方面做起：從參與到創(chuàng)辦權(quán)威國際會議，建立國際合作關(guān)系，提升我國人工智能教育技術(shù)國際影響力；與國際組織或機構(gòu)開展項目合作，借鑒國際上的經(jīng)驗，加強技術(shù)交流，進一步推進我國人工智能技術(shù)基礎(chǔ)設(shè)施搭建、人才隊伍培養(yǎng)、信息化建設(shè)等；建立海外研發(fā)中心，與海外優(yōu)秀的技術(shù)、產(chǎn)品、服務(wù)結(jié)合，進一步落實到國內(nèi)。更積極在海外設(shè)立分、子公司，推動優(yōu)質(zhì)產(chǎn)品走向國際市場。（孔繁鑫整理）

來源： 光明網(wǎng)