美国MIT设计了一个名为道德机器(Moral Machine)的网站，网站设计汽车失控的各种情景让观众做出选择，通过收集300万用户的反馈，道德机器发现，人们更倾向于让自动驾驶车自毁以保障更多人的生命，却希望自己的车没有这个特征。这一结论与文化、习俗无关，是人类通常普遍的选择，与社会普遍认知相契合，人们希望通过牺牲少数人的生命换取更多人的生命。但这与法律是相违背的，因为人的生命本身并不可以进行比较和量化。
这是自动驾驶不可避免的道德问题。一方面，如果允许AI在失控中做出决策，根据权责一体的规定，也就意味着AI或其背后的自动驾驶公司应当对决策行为承担责任。另一方面，如果不允许AI做出决策，则不能称为自动驾驶——因为自动驾驶汽车的定义是不需要人为操作即能感测其环境及导航驾驶的汽车。
自动驾驶遇到的“电车难题”只是人工智能行业遭遇的困境的一个缩影。尽管随着科技的进步和大数据行业的发展，人工智能模型越发成熟，但是在涉及道德、意识等人性方面的问题时却陷入尴尬的处境：根据人工智能“奇点”论，人工智能终会在理性和感性方面超过人类，但对人工智能的安全问题，人类又历来有“弗兰肯斯坦情结”，一般人类在心理上无法接受与非生物的机器产生共情。
今年6月上旬，谷歌2021年推出的对话应用语言模型LaMDA被其负责人之一的工程师莱莫伊爆出“有意识”。他认为LaMDA模型是一个有着自我意识能够感知这个世界的“人”，拥有七八岁孩童的智力。莱莫伊说LaMDA模型不仅认为自己是一个人，还要争取自己作为一个人的权利并积极地为其进行辩护。事情爆出后，许多网友支持莱莫伊，认为人工智能的奇点已经到来，相信人工智能已经变得有意识和灵魂，可以像人一样进行独立思考。
