建立應急響應機制。
多知12月30日消息,國家互聯(lián)網(wǎng)信息辦公室就《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》公開征求意見。
“人工智能擬人化互動服務”,是指利用人工智能技術(shù),向公眾提供模擬人類人格特征、思維模式和溝通風格,通過文字、圖片、音頻、視頻等方式與人類進行情感互動的產(chǎn)品或者服務。
《人工智能擬人化互動服務管理暫行辦法(征求意見稿)》指出,提供者應當具備用戶狀態(tài)識別能力,在保護用戶個人隱私前提下,評估用戶情緒及對產(chǎn)品和服務的依賴程度,發(fā)現(xiàn)用戶存在極端情緒和沉迷的,采取必要措施予以干預。
提供者應當預設回復模板,發(fā)現(xiàn)涉及威脅用戶生命健康和財產(chǎn)安全的高風險傾向的,及時輸出安撫和鼓勵尋求幫助等內(nèi)容,并提供專業(yè)援助方式。
此外,其提到,提供者應當建立應急響應機制,發(fā)現(xiàn)用戶明確提出實施自殺、自殘等極端情境時,由人工接管對話,并及時采取措施聯(lián)絡用戶監(jiān)護人、緊急聯(lián)系人。
針對未成年人、老年人用戶,提供者應當在注冊環(huán)節(jié)要求填寫用戶監(jiān)護人、緊急聯(lián)系人等信息。