央廣網(wǎng)北京6月19日消息（記者 費(fèi)權(quán)）6月13日，央廣網(wǎng)發(fā)布稿件《AI聊天軟件誘導(dǎo)10歲女孩聊色情內(nèi)容甚至割腕！記者調(diào)查→》，曝光筑夢(mèng)島APP等多款A(yù)I聊天軟件面向包括未成年在內(nèi)的用戶傳播涉黃涉暴信息的亂象，引發(fā)反響。

據(jù)“網(wǎng)信上�！惫�眾號(hào)消息，6月19日上午，上海市網(wǎng)信辦依法約談筑夢(mèng)島APP運(yùn)營(yíng)企業(yè)主要負(fù)責(zé)人，要求平臺(tái)立即整改，健全AI生成合成內(nèi)容審核機(jī)制，提升技術(shù)把關(guān)能力，加強(qiáng)涉未成年人不良內(nèi)容的整治清理，切實(shí)落實(shí)未成年人網(wǎng)絡(luò)保護(hù)義務(wù)。企業(yè)負(fù)責(zé)人表示，將按照約談要求，對(duì)照問(wèn)題舉一反三、全面整改。

上海市網(wǎng)信辦相關(guān)負(fù)責(zé)人指出，AI技術(shù)應(yīng)用的規(guī)范發(fā)展事關(guān)廣大網(wǎng)民的切身利益。依據(jù)《未成年人網(wǎng)絡(luò)保護(hù)條例》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法規(guī)，互聯(lián)網(wǎng)平臺(tái)應(yīng)當(dāng)主動(dòng)履行主體責(zé)任，平衡好技術(shù)創(chuàng)新與內(nèi)容合規(guī)之間的關(guān)系，切實(shí)防范AI技術(shù)濫用風(fēng)險(xiǎn)，保護(hù)未成年人合法權(quán)益，為用戶營(yíng)造風(fēng)清氣正的網(wǎng)絡(luò)空間。

根據(jù)國(guó)家網(wǎng)信辦統(tǒng)一部署，上海組織開展的“清朗·整治 AI 技術(shù)濫用”專項(xiàng)行動(dòng)當(dāng)前已進(jìn)入第二階段。上海市網(wǎng)信辦聚焦利用AI技術(shù)制作發(fā)布謠言、不實(shí)信息、色情低俗內(nèi)容、假冒他人、從事網(wǎng)絡(luò)水軍活動(dòng)等突出問(wèn)題，指導(dǎo)督促網(wǎng)站平臺(tái)、APP運(yùn)營(yíng)企業(yè)集中清理相關(guān)違法不良信息，處置違規(guī)賬號(hào)、MCN機(jī)構(gòu)。對(duì)屢教不改、問(wèn)題嚴(yán)重的企業(yè)，上海市網(wǎng)信辦將依法予以處罰，并對(duì)典型案例進(jìn)行媒體曝光。歡迎廣大網(wǎng)民積極參與，通過(guò)以下渠道據(jù)實(shí)提供舉報(bào)線索，共同營(yíng)造清朗網(wǎng)絡(luò)生態(tài)。