“未來，人工智能和青少年的生活一定是緊密融合的。”在小組討論會(huì)上，中科寒武紀(jì)科技股份有限公司創(chuàng)始人陳天石委員圍繞人工智能賦能青少年的健康發(fā)展談了自己的看法。
“人機(jī)協(xié)同將成為新常態(tài)，青少年要找到自己的發(fā)展定位，成為AI時(shí)代的引領(lǐng)者。”陳天石認(rèn)為，要鼓勵(lì)青少年擁抱先進(jìn)的人工智能技術(shù)，“但需要在家長和老師的密切監(jiān)督下使用，避免青少年在心智不成熟的情況下被機(jī)器帶‘偏’。”
“AI雖好，但也不能過度依賴，有時(shí)候，人工智能也會(huì)出錯(cuò)。”中央團(tuán)校（中國青年政治學(xué)院）原黨委書記倪邦文委員提到一個(gè)名詞：“AI幻覺”。“我專門就此請(qǐng)教過中國科學(xué)院的專家，據(jù)專家科普，大模型有時(shí)會(huì)胡編亂造、以假亂真，還偽裝成專業(yè)可靠的樣子，這其實(shí)與AI的運(yùn)行邏輯有關(guān)。”他解釋道，海量、真實(shí)、高質(zhì)量的數(shù)據(jù)對(duì)于訓(xùn)練大模型至關(guān)重要，而目前國際主流大模型訓(xùn)練語料庫以英文語料為主，中文語料占比不到5%，其中還包含了一些未經(jīng)嚴(yán)格審核的信息，導(dǎo)致語料庫質(zhì)量下滑、虛假信息泛濫。
“沒錯(cuò)，要警惕‘人工智能依賴癥’！”天娛數(shù)科CEO賀晗委員緊接著說：“對(duì)人工智能應(yīng)用的沉迷會(huì)產(chǎn)生思考惰性，尤其會(huì)影響青少年批判性思維和解決問題能力。”
“人工智能的不當(dāng)使用也會(huì)帶來隱私泄露、學(xué)術(shù)舞弊、算法偏見、價(jià)值觀偏差等問題，亟待規(guī)范和解決。”華北水利水電大學(xué)黨委書記王篤波委員補(bǔ)充說。
數(shù)智時(shí)代，如何讓青少年安全擁抱AI技術(shù)，讓AI服務(wù)于青少年成長成才？王篤波建議，將AI應(yīng)用納入教育督導(dǎo)與教育法律體系，規(guī)避技術(shù)泛濫帶來的潛在風(fēng)險(xiǎn)，保障學(xué)生數(shù)據(jù)在AI教育系統(tǒng)中的隱私安全，同時(shí)開發(fā)教育專用的生成式AI系統(tǒng)。
“3月4日，上海交通大學(xué)發(fā)布了全國首個(gè)AI教育教學(xué)全生命周期規(guī)范，提出了禁止使用、有限使用、鼓勵(lì)使用、開放使用的四級(jí)使用機(jī)制，對(duì)不同場(chǎng)景的應(yīng)用實(shí)行分級(jí)分類管理。”賀晗認(rèn)為，這為制定青少年人工智能工具使用規(guī)范提供了很好的參考。他提出，要營造鼓勵(lì)創(chuàng)新的良好生態(tài)，引導(dǎo)、激勵(lì)科技企業(yè)開發(fā)有益于青少年正向發(fā)展的AI應(yīng)用和產(chǎn)品。
