违规从事生成式AI服务3家网站被网信部门查处

7月22日，重庆网信部分传递2024年上半年查处的网上百般违法违规行动，此中涉及3起违规从事天生式AI任职的案例。

传递先容，“灵象智问AI”“重庆斥候拓展迷”等网站未经安静测评挂号、违规供应天生式人工智能任职题目，网信部分依法对运营主体展开司法约说，责令立地罢手相干任职；“南川区蓉城汇集科技管事室”未经安静评估上线供应ChatGPT天生式AI音信任职，网信部分依法展开司法约说，责令立地合停相干任职。

“灵象智问AI”的运营主体为重庆灵象智问科技有限公司，2023年5月注册创建。目前，“灵象智问AI”的官网已显示域名过时、无法访候。而“重庆斥候拓展迷”和“南川区蓉城汇集科技管事室”两个主体的官网，未能公然检索到。

南都记者无法与“灵象智问AI”和“重庆斥候拓展迷”赢得相合。“南川区蓉城汇集科技管事室”的筹备者林萍正在电话中示意：“网监部分跟咱们说过，邦度不允诺用海外的ChatGPT，咱们就没用了。”

按照昨年8月15日生效的《天生式人工智能任职打点暂行设施》（下称《暂行设施》），供应具有言论属性或者社会鼓动才干的天生式人工智能任职的，该当遵守邦度相合规矩展开安静评估，并遵守《互联网音信任职算法引荐打点规矩》实践算法挂号和更正、刊出挂号手续。

今后正在羁系条件上，酿成了算法挂号轨制和天生式人工智能挂号（即大模子挂号）的“双挂号制”。按照本年4月邦度网信办宣告的天生式人工智能任职已挂号音信布告，截至3月底，寰宇已有117款大模子取得挂号。

《暂行设施》还规矩，合规上线供应任职后，天生式AI任职供应者该当依法接受汇集音信内容临盆者负担，实践汇集音信安静任务。

上述重庆网信部分的传递中，再度提及一块涉及天生式AI任职供应者未尽到内容审核任务而被行政处分的案例：“开山猴”AI写作网运营主体未尽到内容审核任务，以致网站崭露国法、行政规矩禁止宣告或传输的音信内容。

据5月底“网信重庆”的详明传递，“开山猴”AI写作网站的运营主体重庆初唱科技有限公司，被重庆九龙坡区网信办依法赐与行政警备处分，并被责令限日全部整改，加紧音信内容审核，健康音信内容安静打点相干轨制，暂停网站音信更新及AI算法天生式写作功效15日。

“开山猴”AI写作网站现已收复运营。7月23日担当南都记者采访时，该网站职掌人示意，公司从2023年下半年初阶，就效力邦度相干规矩，主动接入邦内互联网平台的合规大模子。这位职掌人称，本年5月1日，公司发明，有效户众次恶意诱导AI天生违规内容，均被平台的安静盘系拦截，随后采用将一条未被拦截的“有争议内容”举报给羁系部分。

该网站职掌人说，按照该用户的注册音信、行动旅途以及对AI的专业诱导格式，猜测是比赛敌手所为。事发后，公司向主管部分提交完美证据并予以澄清。今后，主管部分用一百众道测试题，对“开山猴”AI写作网站举行更缜密测试，并没有发明题目。