AI下海 | 技术逐渐成熟的道德困境，周二大发奖励畅玩免费旋转！-捕鱼中文站

现在人工智能已经走进了人们的生活当中，AI市场现在也很火热，各种你想不到的技术都在出现，正因为如此，很多行业也都想借此利用这样的市场，日本的业界也不会放过这样的一个馒头。

近期日本就有人制作了一个AI人物叫【日比古凛】。

AI下海 | 技术逐渐成熟的道德困境

【日比古凛】最开始的设定就是一名AI美女，创作者还给了她一个身份：现役女大学生，平日里是个优等生的形象。

然后，创作者就让AI美女“下海拍写真了”。

创作者搞出了252张1920*1080的AI绘图装订成册，制作成写真集并且由FANZA平台进行零售。

从目前的消息来看，这是日本第一例ai人物进入FANZA，并且【日比古凛】这个身份可能接下去还会有更多的写真，甚至包括动态写真可能也会出现。

就目前从FANZA售卖AI绘图写真的操作来看，某业对于AI的兴趣很大，之前也有消息称，目前有些制作商的封面图也已经开始用起了AI技术。

AI下海 | 技术逐渐成熟的道德困境

而在FANZA之前，日本【集英社】也制作了一个AI人物【さつきあい(五月爱)】，让这个AI人物出现在旗下的杂志《PLAYBOY》中，并且连AI人物的sns都做出来了，但是后面不知是因为被指训练模型可能用了【浅仓唯】还是什么原因，这个计划就被搁置了，AI人物的SNS也注销了，人物也撤掉了。

从这些消息来看，“AI下海”从目前现有的技术来说，可能真的不会太遥远。

但是!在这个过程中，随着AI技术越来越成熟，也暴露出了一些技术带来道德问题。

技术并没有好坏之分，但是怎么去运用技术会产生不同的结果;

对于AI制作，目前比较有争议的是版权问题，因为AI需要训练模型，现如今下个模型包，不管原画师同不同意，他们的原创作品都逃不掉会成为AI训练包的一部分。

比如Stable Diffusion引发争议的点就是，它对于艺术与画作的版权很不尊重，又缺乏监管，引发的争议就很大。

AI下海 | 技术逐渐成熟的道德困境

另一方面就是，现实人物也可能被拿来作为训练素材，就比如集英社做出【さつきあい】就被指说应该是用了【浅仓唯】和【椛島光】的脸作为训练模型。

那这对于被拿来作为训练模型的真人来说，是不是也是一种肖像权的侵犯?

不过以上的这些消息，不管是【日比古凛】还是【さつきあい】，都是处于AI绘图，用模型训练出来的全新人物，还是能分辨的出来AI制作的痕迹。

除此之外，其实有一种技术是可以做到让人分不清真假的AI技术，那就是AI技术的深度伪造问题，这也是当下，ai技术背景下的一种信息安全隐患。

相比于用模型去创造一个全新的人物，AI换脸技术可以仅凭一张照片，就让这个人“下海”

AI下海 | 技术逐渐成熟的道德困境 >

早在AI技术刚起步的时候，就有“AI脱衣”、“AI换脸”的情况，几年前就有，但是现如今随着AI技术的发展，相应的使用门槛也越来越低，绝大多数开源脚本都会告诉你“禁止用于非法用途”，但这并不能有效监管，对于脚本的使用，最终也只能靠使用者自身的道德约束。

比如说AI换脸，现如今甚至只要一张照片，就能做成视频。

现在在一些短视频上也能看到很多AI换脸的产物，一些app也仅需要简单操作就可以生成，一些适度玩梗的视频或许可以被当作是“娱乐”。

然而，正是由于AI技术的强大和普及，一些人开始利用它来进行恶意行为。通过AI换脸技术，他们可以利用一张照片，将一个人的面部特征应用于另一个人的视频中，制作出逼真的虚假视频。

这种虚假视频可以被用于制造假新闻、捏造证据、恶意攻击个人或组织，带来混乱和伤害，且这种伤害对于受害者的尊严几乎是不可逆的。此外，AI技术的进步也使得自动化的恶意信息生成变得更加容易，例如自动化的恶意社交媒体账号、虚假评论和舆论操纵，也就是AI可以参与网暴和控制舆论。

之前就出现了“地铁女孩”的事情，那女孩也没招谁惹谁，被人拍了张照片，然后通过AI换脸做成一张裸露图片，在传播时加上一些侮辱性词汇，一个黄谣就被造出来了，但是这种黄谣一传出去，然后演变出更多的侮辱性词汇。

本身造谣的成本是非常低的，再利用AI技术去加强谣言的可信度，有些信息我们作为旁观者都无从分辨真假，那对于受害者来说，想洗清这些东西真的很难很难。

技术越成熟，门槛越低，相关的事件也会越多，在这种基础上，AI技术甚至可以延伸出AI诈骗、AI敲诈、AI伪证等现象。

而目前为止，我们对于AI技术与道德层面问题的冲突，可能只能寄托于开发者对于AI的道德训练。

技术的发展本身是一种进程，但是在这个过程中，每一种新的技术都会变成一把双刃剑，它有正的一面，也会出现反的那一面，比如说网络的高速发展也演变出网络暴力，但这种问题又延伸了很多追索难题，现如今上网并没有门槛，没有门槛就导致了有一部分人在网络上并没有自我约束的能力。

其实还有更过分的，最近一年以来，在一些网暴中，总少不了会出现一些造谣的，因为有热度，很多人凑在一起，就会有人利用热度来博眼球，于是就各种造谣，什么虚假的聊天记录，更有甚者，拿着照片就用AI开始整活，然后不断地被传播。

我也不知道从什么时候开始，网上的氛围出现了一种戾气，戾气很快的聚集起来，用各种方式去攻击他们所看不惯的人，仅凭片面的消息就单方面的判定一个人的好坏，他们摧枯拉朽如飓风过境，永远在追逐下一个热闹，留下满地狼藉去给被攻击的人独自消化

而我们对于这种戾气是无能为力的，想要构建一个和谐你我他的网络环境，只能是提高公众意识和道德素养，但是现在感觉说这种话题就是很空，说了也没什么作用，就像前几天有人跟我说：有些梗一点都不好笑，但是玩这些梗的人是意识不到这个梗很烂的。

AI下海 | 技术逐渐成熟的道德困境，周二大发奖励畅玩免费旋转！