可能表达得不够清楚，所以这段应该放在前面。
我的意思是，三大定律应该是基本设置的代名词，不一定非要用“三大定律”这四个字，但我想不到更好的名词来代替，或者干脆就叫“基本设置”好了，但说“基本设置”大家又会问什么是“基本设置”，所以用能想到的“三大定律”四个字做概括。不知道我说明白了吗？ 人工智能最基本的设置就是不能杀人，不能导致人类死亡。连这都不设置是最大的bug。
咱不懂是我表达有问题还是有的人越读理解有问题。有人回复类似于“强制刹车都不一定好用，所谓的设定有什么用”。
不一定好用就可以没有了吗？那法律规定不能杀人有时候还不好使呢，没见直接不要法律了的。
咱们讨论的时候不要激动，我也没有说我自己对。
关于大家的解答，我认为“先跑起来再说”，和“女主没想到、还没完成”这两个方向解决了我的疑惑。
而不是“设置没有用所以不用设置”，“设置是小说，所以不用遵守”。
正文：
1机器人不得伤害人类，或坐视人类受到伤害。
2除非违背第一定律，否则机器人必须服从人类命令。
3除非违背第一或第二定律，否则机器人必须保护自己。
众所周知，关于人工智能的恐怖片基本都是机器人产生了自己的思想，违反了三大定律。
哎，我不服你管儿了，你叫我关机我也不关机，我就可你话里最大的bug望死里卡。随着WiFi的普及，我不但不关机，我还联网，不但联网，我还远程操控其他智能设备。就差跟赛博坦星人一样能变形架挺机关枪哒哒哒扫射了。
一切智能家用电器都变成了杀人利器。什么微波炉，烤箱，电灯泡，吹风机，就算是个剃须刀它也得薅你一绺毛。
《我，机器人》，《爱，死亡，与机器人》，《机械姬》，《西部世界》，《复仇者联盟2：奥创纪元》还有啥我记不清了，反正里面的机器人，无论好坏，全都违反了三大定律，区别就是坏的杀人。
这电影，这些流程都已经不走了，咱直接不设置三大定律。我们不浪费时间迂回战斗的，就直面主题。
想来想去只有这一个合理解释：女主本职是做玩具的，玩具它不是机器人，就算它是人工智能，也想不到去设置三大定律。女主跟想不通我们为什么持枪犯法的那些人民群众一样。她这种守法公民，根本就想不到怎么去卡bug。最后导致，哇玩具还有这种操作，惊呆了老铁！
或者反正这种电影最后都是要违反的，所以干脆就不设置了，最后提一嘴（哎呀我没想到咋咋地，挨木稍蕊地）就完了，你们都懂，哎这点小细节我们不要去纠结它。是不？
那你是干啥地啊？！啊？！当一辈子厨师了，炒个菜，吗我忘放盐了。啊不dei，你不是专业做厨师的，你是面点师。做千层饼我忘放盐了，因为千层饼不是菜，所以不放盐也情有可原。
为什么阿西莫夫在1940年就能写出这种说是神作也不夸张的故事，而如今2023年，80多年过去了，我们还是只能看这些已经把梗嚼得稀吧烂的东西。
最赞回应
虽然阿西莫夫的机器人三大定律很有名，但是并不代表所有关于机器人，人工智能的作品都要遵循机器人三大定律啊。
所谓三大“定律”只是一种文学创造，并非真正的定律。
侦探便推断撒谎的是老师。因为从学生机器人的角度出发就很简单，先是说实话，为了更优解而撒谎。从老师机器人出发，先是听从主人命令而撒谎，然后为了更优解说实话，但实话违背了主人的命令，于是他算不过来了。而侦探其实早有定论，因为他了解人性，一个老师怎么会给学生看自己都搞不定的论文呢。
这本来就是个原型机，女主还是自己做给Cady的，只不过自我意识觉醒得早，又没有正式生产，哪来什么理论上的三定律？
所以这就是钻三大定律的空子，因为定律1没有详细限定“伤害”到底指什么。对于人类来说失去自由等同于被奴役，也属于伤害。但机器人就可以卡这个bug，集中管制，消灭部分人类达到整体延续的目的。
阿西莫夫的短篇小说集，《黒鳏夫俱乐部》中有个非常有意思的小案子。侦探被派去调查一个学术论文署名案。老师说文是自己写的，让得意门生瞻仰瞻仰，学生看了之后就剽窃自己成果，署上了自己的名字。学生完全相反，说自己写的，让老师指导一下，老师看后觉得好，就剽窃成果，署上自己名字。当时两个人的机器人管家都在现场，侦探问了它们同样的问题，然后PUA这些机器人。对学生的机器人说，既然你说这篇文是你主人写的，那他还有大把机会，老师可就晚节不保了。为了老师你就撒谎说文是老师写的吧。学生的机器人权衡利弊就改了口，“叛变”了自己的主人。接着侦探又跟老师的机器人说，既然这篇文章是你主人写的，那他还有大把机会，学生可就前途尽毁了。为了学生，你就撒谎说文是是学生写的吧。结果把老师的机器人CPU干烧了，机器人因为算不清到底怎么做才是保护人类，直接死机了。
好像《我机器人》是严格遵守三大定律的，控制人类是因为判定人类在伤害自己。
所以这就是钻三大定律的空子，因为定律1没有详细限定“伤害”到底指什么。对于人类来说失去自由等同于被奴役，也属于伤害。但机器人就可以卡这个bug，集中管制，消灭部分人类达到整体延续的目的。
对。之前回复的时候没抓住楼主的重点。
楼主重点是吐槽这个电影的设定吧。😂
阿西莫夫的短篇小说集，《黒鳏夫俱乐部》中有个非常有意思的小案子。侦探被派去调查一个学术论文署名案。老师说文是自己写的，让得意门生瞻仰瞻仰，学生看了之后就剽窃自己成果，署上了自己的名字。学生完全相反，说自己写的，让老师指导一下，老师看后觉得好，就剽窃成果，署上自己名字。当时两个人的机器人管家都在现场，侦探问了它们同样的问题，然后PUA这些机器人。对学生的机器人说，既然你说这篇文是你主人写的，那他还有大把机会，老师可就晚节不保了。为了老师你就撒谎说文是老师写的吧。学生的机器人权衡利弊就改了口，“叛变”了自己的主人。接着侦探又跟老师的机器人说，既然这篇文章是你主人写的，那他还有大把机会，学生可就前途尽毁了。为了学生，你就撒谎说文是是学生写的吧。结果把老师的机器人CPU干烧了，机器人因为算不清到底怎么做才是保护人类，直接死机了。
侦探便推断撒谎的是老师。因为从学生机器人的角度出发就很简单，先是说实话，为了更优解而撒谎。从老师机器人出发，先是听从主人命令而撒谎，然后为了更优解说实话，但实话违背了主人的命令，于是他算不过来了。而侦探其实早有定论，因为他了解人性，一个老师怎么会给学生看自己都搞不定的论文呢。
再反观这个电影，三大定律都能被卡bug卡成这样，别说没设置定律了。所以编剧就是图省事直接跳过，在我看来属于摆烂行为。
虽然阿西莫夫的机器人三大定律很有名，但是并不代表所有关于机器人，人工智能的作品都要遵循机器人三大定律啊。
所谓三大“定律”只是一种文学创造，并非真正的定律。
我可能表达得不够清楚，我的意思是，三大定律它是基本设置的代名词，不一定非要用“三大定律”这四个字，但我想不到更好的名词来代替，或者干脆就叫“基本设置”好了，但说“基本设置”大家又会问什么是“基本设置”，所以用能想到的“三大定律”四个字做概括。不知道我说明白了吗？
人工智能最基本的设置就是不能杀人，不能导致人类死亡。连这都不设置是最大的bug。
其实现实中这种事很多，就像修煤气泄漏的工人由于四周太黑点打火机照明，“师傅你是干什么工作的”一样，就是脑子一抽就那样了，我也的确是过于纠结这点了。
印象中，剧情有提到，女主主要还是没来得及完善代码，还是个test阶段
所以呀，说的不就是这个么。说的就是她应该最先设置这些，而不是最后完善这个。
咱也不懂工业设计不懂他们流程啊，作为科研搬砖人我倒是能理解这种“能跑起来就算成功，伦理问题等跑起来再说”这种想法🤔但是这剧情里完全没有审批制度伦理委员会之类的，还是剧情设定太悬浮了
哦女主把megan带到公司检查的时候那两个同事好像说过设定了不能伤害人类
原来是这样，你这么说，我忽然可以理解了。那的确是我对科研这方面不懂造成的。也就是说，现实当中是先实现主要目标。比如梅根主要研发方向是陪伴与保护，先达到这个目的，这才是基础，三大定律是以后再说的。我理解得对吗？
如果是这样的话，那这个电影就没有我说的这个bug。那这个要留存下来，给我这样光看小说，不知道实际科研情况的人补充一下常识。
能不能麻烦简单讲一下审批制度、流程和伦理委员会吗？我很喜欢这些“无用”的知识。
科研伦理比如说做实验，需要先提交材料比如实验者知情同意书实验流程之类的给委员会审查，做点小范围测试之类的，拿到批准才能做实验发论文。就像工程啊建筑之类的立项审核监管之类的流程，我猜这种智能工业设计应该也是这个模式，毕竟能直接获取客户隐私信息分析应用的，不可能没监管。主要是编剧直接让女主不受任何伦理限制技术限制自己开发出来一个强人工智能，配套流程却没跟上，就很悬浮。
我完全不懂ai啊编程啥的，但从逻辑来讲应该先考虑能不能跑起来再考虑限速，先打地基后盖墙嘛。就比如说折纸飞机，先飞起来再考虑飞得远不远直不直。
原来实验项目也有这么多手续。各行各业真的很神奇。
是的哈 为什么一定要遵守呢
是的是的 放开点吧
不会呐 她是私底下进行的 连老板都不知道 怎么提交给委员会呢
这就是问题，电影里megan这种强人工智能是不可能被她们一个小组三个人在公司不知道的情况下开发出来的。不是瞒不瞒boss或者boss管不管她们的问题，强人工智能不是像捏橡皮泥一样有材料平台她们闭关爆肝就能搞出来的，而是更像乐高，不可能所有零件都在她们手上不受监管限制地使用
用现实套 小姨表示压力很大
就是个娱乐电影，大家不用这么跟现实情况较真。编导根本就是传统的恶灵附身洋娃娃的鬼片套了个玩具机器人的皮。骂小姑娘表子那一刻，人工智能成了妥妥的魔鬼。
实际上最大的问题是梅根的动力。妥妥的永动机啊。有这玩意还开什么玩具发布会，还要什么干死孩之宝，女主角一人手捏苹果，脚踹特斯拉。
？梅根不是每晚都坐在女孩窗台充电吗
我理解的是主角开始只是设计一个会会自己思考的玩具，根本就没想过他会进化成这样。就像《终结者》里面的天网一样，一开始只是设计一个牛*的计算机，谁也没想到她会自己进化到攻击人类啊
这本来就是个原型机，女主还是自己做给Cady的，只不过自我意识觉醒得早，又没有正式生产，哪来什么理论上的三定律？
三大定律早就out了，就和推理十戒一样是有些人拿来装逼用的
是啊，也只能这么理解了。或者像楼上豆友说的，先能跑起来才行。
里面不许有中国人是吗？鉴于作者的人品和思维局限，我们可以取其精华去其糟粕。这些定律和戒条保证了作品的品质。不过我尊重你的想法，千人千哈嘛。
你的意思是，女主想做个小爱同学，没想到做出了机械公敌，我理解的对吗？
我是想说就看个电影不必套上阿西莫夫三大定律，这样看剧你累我累大家累
其实差不多就是这意思，女主一开始做的都是简单命令的玩偶，她做梅根也说了是根据传感器收集信息通过概率计算做出不同的反应，其实差不多就是小爱同学这样的，她也没想到梅根会自我学习拥有自主意识。
其实仔细想想你会发现所谓机器人三大定律并没有太大意义，终究只是不严谨的文学创作。
如果一个机器没有自我意识觉醒，它就无法理解机器人三大定律的字面意思，你只能做更底层的逻辑安全处理。例如电动汽车自动驾驶的底层安全处理是人的机械操作命令权限高于程序电控，然而还是会发生现在争论的刹车刹不住的问题。电影里面梅根出问题女主第一反应是关电源，因为对于一个没有自主意识的机器，关电源这个安全处理就足够了。
而如果一个机器真的拥有了人工智能自我意识，那么机器人三大定律也根本无法约束机器人。比如以前奴隶社会奴隶主各种洗脑奴隶，让他们拥有保护奴隶主，为奴隶主的约束思想，但是一旦奴隶拥有自我意识争取人权，那些约束就没有用了。同理，以主人身份写下的机器人三大定律是不可能约束一个真正拥有自我意识的机器人。
也就只能归结于女主没想到了吧。
在现实当中，女主的行为的确很合理自然，因为人总有“脑抽”的时候。但是这不是创作吗，艺术应该在源于生活的基础上，也高于生活才对。
关于三大定律的意义，我始终认为在人工智能没有自主意识的时候是有用的。现在的人工智能并没有发展到电影里、作品里的程度。如果真的到了那时候，不能杀人等设置是有用的，也是最基本的必要。因为机器人无道德，所以必须进行设置。
如果人工智能有了自我意识，三大定律才没有用。那时候他就跟超级英雄无异，别说三大定律了，啥也不好使。
所以我认同“女主没想到”和“先跑起来再说”这两点。
三定律只是阿西莫夫小说中的人为设定，不是自然定律，压根儿没有什么遵守不遵守之说。
ChatGPT给出了答案。
哎，都怪我没有阐述明白自己的意思。请看我重新修改的第一段。你的这个回复里的原句，“我只是根据输入的数据进行响应”，我的意思就是要最先输入这种“不能杀人”的数据。因为我不会相关的学术词语，所以只能用“三大定律”四个字代替。
我所说的这个“设置”或者应该叫“数据”？到底应该怎么称呼它呢？
我觉得楼主的意思是，任何机器人被发明出来应当基于服务人类，不管功能如何，需要有一些兜底的协议(protocol)，类似一些rules for behavior ，这样才能保证运营安全。加之这货的代码是进化式的代码，就更需要约束。阿西莫夫能在那么多年前想到的兜底的规则，为什么现代人不需要兜底呢？难道是有九条命吗？安全第一。这是各个行业的底线。
哇，你把人工智能给的答案当标准答案，也真是厉害
姑且称为兜底协议吧
对，我就是这个意思。
算啦，和你争论认为三定律不需要遵守的人，都是把这电影当文艺作品看，而非科幻作品看待。没必要说服任何人。
哈哈哈是的。
因为你说的“基础设定”是不能伤害人类，而本片的“基础设定”是保护女孩不被伤害。梅根将伤害、压迫女孩的其他人视为对女孩的威胁，自己必须加以阻止或者清除。
是嘛，所以说电影里设的不对。哈哈哈哈哈哈哈……
她连个毛绒玩具都做不好 能有什么严谨的工作态度
女主只想做出这个东西，把自己的设想实现出来，这是技术人员比较朴素且常见的想法，但是实物出来之后就由不得他们了，公司为了攫取利益恨不得马上批发，就那么一点点时间还要用在不停的学习上，确实很难去考虑全面。但话又说回来，新产品的出炉应该有相关流程的，审批立项测试之类，片中给人感觉就像是个私人小作坊，私自挪用十万美元公款去做一个未经报告的东西，我也看得一愣一愣的。
梅根最后说了：你自己都没搞懂的参数模式，就让我身上装！
为什么不教法律
女主一开始只是个单身的工作狂，突然间姐姐姐夫去世，然后要学会照顾一个小孩，她是很不适应的。所以她才会在test阶段就把梅根给了外甥女，潜意识也是想缓解照顾儿童的压力，逃避一下做家长的责任，从而忽略了一件事，梅根的基本准则都没设置好是不应该就拿出来配对的。
不是设不设置的问题，三大定律本来就不严谨，漏洞百出，定义的概念存在难以定夺的变量，更别提落实到具体实现。
如果机器人真有自主意识，那就意味着三大定律是无效的。反之亦然
我觉得机器人三定律并不一定非要遵循。而且有可能三定律是基础，已经默认为基础设置，但是梅根的进化轻易突破了。梅根的设置这么先进，恐怕不会先用在儿童玩具上，而是先用在军方
> 我来回应