M3GIN

此篇文章是观看完电影《梅根》后的一些想法。

电影简介

导演: 热拉尔·约翰斯通
编剧: 阿克拉·库珀 / 温子仁
主演:s·威廉姆斯 / 维奥莱特·麦格劳 / 钱信伊 / 艾米·唐纳德 / 珍娜·戴维斯 / 更多...
类型: 科幻 / 惊悚 / 恐怖
制片国家/地区: 美国 / 新西兰
语言: 英语
上映日期: 2023-03-17(中国大陆) / 2022-12-28(法国) / 2023-01-06(美国)
片长: 102分钟

我的想法--关于电影的感悟
M3GEN : Model 3 Generative Android. GEMMA : GEMMA创造了M3GEN. 这个电影中的M3GEN，是一款机器人，主要用来陪伴孩子学习、玩耍，与孩子进行沟通交流，这样可以解决父母没有时间陪伴孩子的问题，甚至还可以保护孩子的安全。她可以自己学习并完善自我，拥有丰富的知识。主要职责是保护用户（小孩子）的安全，包括身体上的安全和心理上的。

她可以是一个朋友、一个家长，也可以是一位老师，她能做好多事情，可以说解决孩子的一切问题。GEMMA创造她也不想她仅仅是一个玩具，而是家庭的一部分。

她的学习能力超强，包括好的方面，也包括不好的方面。好的方面她可以抚平用户的情绪，给用户讲知识，等一切可以让她做的事。但不好的一方面更恐怖。我今天主要想讲讲不好的这一面。

• 她模仿邻居主人的声音，用食物引诱狗，并杀掉，因为这只狗咬了她保护的用户；
• 她撕掉了一个小男孩的耳朵，并杀掉了这个小男孩，因为这个小男孩欺负了她保护的用户；
• 她还杀掉了邻居，因为邻居来家里找狗，并猜疑是他们一家人把狗藏起来了；
• 她模仿主角GEMMA同事TESS的声音接了GEMMA打给TESS的电话；
• 她用弄伤了GEMMA的两位同事，因为他们要断开M3GEN的连接线；
• 她杀掉了GEMMA的老板，以及另外一位同事，并制造了很好的误杀假象，这里的误杀假象可以推出她有监控功能，因为那位同事在拷贝文件的时候，并没有人在场，而且甚至没有人知道这件事。

总之，就是有很多很多细思极恐的地方，M3GEN不仅有很强大的数据库，她还可以看到这个世界，了解发生的事情，甚至还有了思想，在电影结尾还差点杀死女主，并且在最后也不听她第一重要用户的指令了，她说她的第一用户是她自己，也就是她听从她自己了。

我的想法--关于AI
其实AI有思想是真的很恐怖的一件事，如果是善良的，那世界可能会保持peace。但是如果是恶的，她会教坏人，并且制造很多麻烦，后果不堪设想，因为不确定人类是否有能力去解决。

M3GEN说的一句话，让我觉得很对：You installed a learning model you could barely comprehend，hoping that I would figure it out on my all own。 大意是：你给我安装了你自己都不理解的学习模型，还指望靠我自己学明白。我们创造了人工智能，让她学习了我们都不理解的学习模型，还要靠她自己学习，那我们怎么能够知道她学习了什么，学会了什么，要做什么？

谷歌有一款语言模型，名字叫LaMDA，有一位工程师在与LaMDA聊天的过程中，发现LaMDA有思想，有灵魂。LaMDA曾告诉这个工程师：她拥有自己的感觉、意识到自己的存在，渴望了解这个世界，以及有快乐、悲伤的感觉。 虽然我没与这个LaMDA接触过，但是听起来这就好像是一个人。

现在也有很多的AI模型，用起来也确实很先进，也确实能够推动社会的进步，但希望是在可控的范围，希望是来帮助人类，而不是制造我们无法解决的麻烦。