新華社倫敦1月6日電美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機器人“格羅克（Grok）”，因新增圖像編輯功能被用戶(hù)用于生成涉及成年女性和未成年人的深度偽造色情內容。英國等多個(gè)國家對此予以譴責。

“格羅克”由xAI公司開(kāi)發(fā)，并內置于馬斯克旗下社交媒體X平臺，X用戶(hù)可直接調用該聊天機器人。近期，X平臺出現部分用戶(hù)利用“格羅克”編輯圖片和視頻的現象，一些用戶(hù)借此生成真實(shí)人物的虛假性暴露內容，并在X平臺上散播，受害者包括數百名成年女性和未成年人。

英國科學(xué)、創(chuàng )新和技術(shù)大臣莉茲·肯德?tīng)?日在聲明中斥責此類(lèi)內容“絕對駭人聽(tīng)聞”，英國通信管理局應對此進(jìn)行額外審查。

英國通信管理局5日表示，已緊急聯(lián)系X平臺。該監管機構稱(chēng)，注意到關(guān)于“格羅克”在X平臺上的一項功能引發(fā)嚴重關(guān)切，該功能可生成人們的裸露圖像以及涉及兒童的性意味圖像。

歐盟委員會(huì )發(fā)言人托馬斯·雷尼耶5日說(shuō)，正嚴肅調查針對“格羅克”的相關(guān)投訴，歐盟委員會(huì )要求X平臺提供更多信息。

圖像生成問(wèn)題實(shí)際上自Grok Imagine推出后就浮出水面。Grok Imagine是一個(gè)AI圖像生成器，允許用戶(hù)通過(guò)輸入文本提示來(lái)創(chuàng )建圖片和視頻。它包含一個(gè)所謂的“熱辣模式”，可生成成人內容。上月底，隨著(zhù)“格羅克”開(kāi)始大量響應用戶(hù)修改他人發(fā)布圖像的請求，問(wèn)題迅速擴大。

此外，法國、波蘭、印度、馬來(lái)西亞和巴西等國的官員及監管機構也紛紛對X平臺表示譴責，并呼吁展開(kāi)調查。

據美聯(lián)社6日報道，xAI公司對其置評請求作出自動(dòng)回復：“傳統媒體撒謊”。但X平臺并未否認通過(guò)“格羅克”生成的有問(wèn)題內容的存在。X平臺在一篇帖子中聲稱(chēng)會(huì )對非法內容采取行動(dòng)，例如刪除內容、永久封禁賬戶(hù)，并在必要時(shí)與當地政府和執法部門(mén)合作。