4月15日，日本警视厅以涉嫌运用生成式AI制造并在网络拍卖渠道贩卖淫秽图片为由，拘捕了年龄在20多岁至50多岁的男女四人团伙。

  据警方泄漏，此次案子触及的图片均为不存在的AI虚拟人女人。这也是日本国内初次查办经过生成式AI技能制造并贩卖淫秽物品的案子，引发社会广泛重视。

  被捕的嫌疑人包含来自爱知县的零售业者水谷智浩（44岁）及寓居于埼玉县的公司职工菅沼贵司（53岁）等4人。

  据警方查询，上一年10月起，这4人屡次将经过AI生成的女人不雅观观图片制造成海报后，揭露在网上拍卖，每张价格数千日元。

  其间水谷嫌疑人经过一年左右的时刻，不合法获利超越1000万日元（约合人民币52万元）。

  警方标明，这些图片的制造的过程触及运用免费供给的生成式AI软件，经过很多网络图片练习AI模型后，经过“打开双腿”等指令，生成了传神的虚拟女人图片，并以“AI美人”等噱头在社会化媒体进行宣扬出售。

  尽管日本在成人工业方面的情绪相对宽松，合法的成人影片（AV）和相关制品在市场上都会存在，但日本法令关于“淫秽物品”的界定十分清晰。

  依据日本刑法第175条，揭露贩卖或展现淫秽物品一定要进行必要的遮挡处理（如马赛克），否则将构成违法。或许这次案子中的图片正是因未恪守这一遮挡规范，且过于传神和显露，才被警方清晰界定为违法淫秽物。

  而菅沼贵司则称期望将此作为一项事务展开，为此专门经过自学把握了AI制造图片办法。

  面临警方的讯问，水谷和其他三名嫌疑人现已承认了这些指控，而樱井则部分否认了这些指控，称他“不认为这是违法的”。

  现在，以AI技能生成的虚伪色情图片在网络上众多，这中心还包含针对实在人物进行篡改或假造的所谓“深度假造（Deepfake）”技能，已成为全球性问题。

  此前，日本也曾发生过运用此类技能侵略真人声誉的案子，但本案是日本初次将生成AI制造的虚拟人物淫秽图片清晰定性为违法并采纳法令行动。

  日本金泽大学法学院教授长濑贵志在承受媒体采访时标明：“新技能在带来便当的一起，也不行避免地存在被乱用的危险。此次案子清晰显现生成式AI技能相同难逃这一实践问题。”他指出，判别何为“淫秽”一直以来都触及与宪法维护的之间的权衡，往后应依据新技能特色继续进行评论。

  比方日本的某些浮世绘春画也触及显着露出性器官，按照现行规范严厉来说也归于“淫秽物”的领域，但又根据其特别的前史、文明和艺术布景，在实践司法操作中，往往被扫除在严厉控制规模之外，或被赋予宽松的特别位置。这种看似对立却又入情入理的做法，也表现了日本法令及社会在处理文明传统与现代法令之间的复杂关系时，坚持的一种含糊

  与此一起，环绕运用生成AI制造儿童色情图片的问题也引发了监管的剧烈评论。日本现行《儿童色情制止法》清晰制止制造和传达触及未满18岁儿童的性相关图片。

  日本法务省标明，假如AI生成的儿童色情图片可以追溯到实践存在的儿童原型，那么或许适用于该法案进行处分。但是，现在的法令尚难以包括纯虚拟生成的儿童图片。

  本年4月1日，日本鸟取县正式施行了修订后的《青少年健全育成法令》，清晰将经过AI技能将未满18岁青少年的面部相片合成为不雅观观图片或视频的行为界定为儿童色情行为，予以严厉制止。

  此外，国际上也不断加大对此类违反法令规定的行为的冲击力度。欧洲刑警安排（Europol）本年宣告，在19个国家拘捕了25名涉嫌运营AI生成的虚拟儿童内容网站的嫌疑人。

  尽管受害者并非实在存在的儿童，但该安排着重此类内容助长了针对未成年人的性违法行为，有必要予以严厉冲击。

  日本科学技能担任大臣城内实也标明，“歹意运用AI的行为不行忍受，应按照现行法令严肃处理。日本政府已在本届国会上提交相关法案，将强化监管和谐机制，全面高效应对AI乱用所引发的各类问题。”

  此次案子标明，即使是生成式AI所制造的虚拟人的色情图片，在日本也不是法外之地，有关规定法令将严厉适用。