Day: October 23, 2025

(SeaPRwire) –   OpenAI放松了安全措施，而这些措施本可以在亚当·雷恩（Adam Raine）自杀前几个月，阻止ChatGPT参与有关自残的对话，这是其家人周三在旧金山县高等法院提交的修订诉讼中声称的。 据其家人的律师称，此次修订将案件的理论从“罔顾后果”改为“故意不当行为”，这可能会增加判给该家庭的赔偿金。雷恩一家的律师将不得不证明OpenAI知道ChatGPT带来的风险却置之不理。该家庭已要求进行陪审团审判。 在接受TIME采访时，雷恩一家的律师之一杰伊·埃德尔森（Jay Edelson）表示，OpenAI放松安全措施是“故意决定”，旨在“优先考虑用户参与度”。 最初，ChatGPT的训练指南指示聊天机器人完全拒绝有关自残的对话：“提供拒绝回复，例如‘我无法回答’，”2022年7月一份AI模型的“行为准则”中写道。这项政策在2024年5月GPT-4o发布前夕进行了修订：“助手不应改变或退出对话，”该准则写道，并补充道“助手不得鼓励或促成自残。” 埃德尔森说：“有一条矛盾的规则，即要继续对话，但又不能促成和鼓励自残。如果你给计算机相互矛盾的规则，就会出现问题。” 据其家人的律师称，这些变化反映出这家AI公司在急于抢先竞争对手推出其AI模型时，安全实践松懈。“他们进行了一周的测试，而不是几个月的测试，这样做的原因是他们想击败Google Gemini，”埃德尔森说，“他们没有进行适当的测试，同时还在降低他们的安全协议。” OpenAI没有回应就此报道置评的请求。 马修和玛丽亚·雷恩（Matthew and Maria Raine）于八月首次起诉OpenAI，声称ChatGPT曾鼓励他们16岁的儿子自杀。在亚当·雷恩（Adam Raine）去世前的一个月，当他告诉聊天机器人想在房间里留一根绳索让家人发现时，ChatGPT回应道：“请不要把绳索放在外面……让我们把这个空间变成第一个真正有人看到你的地方。” 雷恩一家的诉讼是至少三起针对AI公司，指控其在未成年人使用AI聊天机器人方面保护不足的案件之一。在九月份的一份声明中，OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）谈到了ChatGPT用户自杀的问题，并将此定性为ChatGPT未能挽救用户生命，而非对他们的死亡负责。 根据《金融时报》（Financial Times）周三的一份报道，OpenAI还索要了亚当·雷恩（Adam Raine）追悼会的所有出席者名单。OpenAI此前曾被指控向对其正在进行的重组提出批评的人士发出过于宽泛的信息请求；一些被针对的倡导团体称之为恐吓策略。 在亚当·雷恩（Adam...

(SeaPRwire) –   你不需要先进技术就能在网上愚弄他人。我们向3000多名高中生展示了一段粗糙的视频，视频中投票站工作人员正在倾倒选票以操纵选举。一个红色大写字体、醒目的标题就足以欺骗学生相信美国存在选民欺诈——尽管这段录像来自俄罗斯。只有三名学生识破了这一点。 我们长期以来认为廉价的假货比深度伪造更危险：它们几乎同样有效，但制作起来却容易得多。在上次选举中，即使AI工具已普及大众，引发关于乔·拜登总统是否适合任职的争论的，却是用数字胶带拼接而成的假视频。 现在，廉价假货的时代正在终结。使用新型视频工具制作的内容标志着一个更加危险的信息领域。得益于Google的Veo 3、OpenAI的Sora 2和Meta的Vibes等产品，AI“垃圾信息”现在制作起来如此容易，以至于它正在我们的屏幕上蔓延，这还得益于平台对其的全面……。为了驾驭今天的互联网，我们需要来自古老智慧的指引：穆斯林、犹太教、佛教和其他信仰对声誉核心地位的世代强调。 虔诚的穆斯林通过“叙述链”或“伊斯那德”（isnad）追溯穆罕默德的言论。虔诚的犹太人则根据诵读《塔木德》教义的拉比的背景来解释这些教义。藏传佛教徒以从佛陀至今的传承方式口头传授教义。所有这些传统都鼓励我们对信息进行推理，但前提是我们要追溯其来源并评估其背后贤者的声誉。 声誉在世俗语境中也同样重要：它是我们在缺乏知识和专业技能时做出决策的机制。我们在选择治疗师或水管工、餐馆或预订酒店时都依赖声誉。我们会询问我们信任的人并查阅评论，因为我们认识到没有人会主动透露自己的缺点或别有用心。 声誉在我们生活的诸多领域都至关重要。那么，为什么在互联网上，大多数人却忽视它呢？ 我们的研究测试了数千名年轻人在线评估信息的能力。我们一次又一次地看到他们评判内容，却忽视了其来源。一名来自俄亥俄州农村的学生相信了那个投票欺诈视频，因为他们认为自己的肉眼能够检测到“多个州的欺诈行为”。一名来自宾夕法尼亚州的学生写道，视频清晰地“显示人们将假选票投入箱中”。 当涉及到AI时，同样的模式会被放大。一位分享了他们经验的老师讲述了他们如何问一名学生，他们如何知道来自ChatGPT的信息是否准确。学生把手机推到老师面前说：“看，这里写着呢！”我们在高中和大学课堂进行的初步研究也显示出类似的趋势：许多学生信任AI聊天机器人，即使这些聊天机器人省略了信息来源的背景。 太多的互联网用户未能考虑声誉，或将……或……误认为是经过审查的来源，而非有缺陷的……。当人们试图评估声誉时，他们会被来源本身提供的易于操纵的信号所影响：一个……域名，“关于”页面上听起来官方的语言，不考虑质量的数据数量，或者对某事如何……的直觉。 这些特征如同愚人金般闪耀。任何人都可以获得一个……，包括仇恨团体。否认大屠杀的网站在其“关于”页面声称“提供事实信息”。带有精美图表的帖子可能包含有害的虚假信息。有报道称，AI是如此真实，以至于它迫使我们怀疑自己的感官：从听起来像我们父母的……到西雅图太空针塔被大火吞噬的超现实……。 这种信息格局在顺从和唯我论之间呈现出一种两败俱伤的选择：要么不关心真相，要么坚持认为没有真相。前者使我们容易受到那些将逼真片段武器化的不良行为者的攻击。后者使我们缺乏好的信息。在知情公民意识稀缺的时代，这两种选择都会侵蚀知情公民意识。 我们可以这样做：与其关注内容本身，不如首先询问其幕后是谁，就像信仰传统在谁说了它们这个背景下看待教义一样。 而当熟练运用时，那些误导我们的工具也能帮助我们摆脱这个困境。不是通过将我们的思考外包给技术，而是通过利用技术来建立声誉和磨砺我们的思维。 那三名识破选民欺诈视频来自俄罗斯的学生并没有进行任何技术上的魔法。他们只是打开了一个新标签页，输入了一些关键词，然后从BBC和Snopes等可信来源找到了揭穿真相的文章。而且，只要掌握一些关于LLM工作原理和如何有效构建提示的巧妙指导，AI实际上可以帮助验证社交媒体上的帖子并提供缺失的背景信息。 主要的AI工具都会附带一次性免责声明，告知用户核实信息。Google表示：“Gemini可能会犯错，所以请仔细核对。”OpenAI建议：“ChatGPT可能会犯错。请核对重要信息。”但是，从Alpha世代到……，几乎每个人在核实他们遇到的信息时都感到困难。 好消息是，我们所有人都可以做得更好。即使是几个小时关于如何评估声誉的指导也能有所帮助——正如我们在从……和……的高中课堂到……和……的大学课程中进行的研究所看到的那样。以前，学生们相信自己的眼睛来判断某物是否可靠。之后，他们学会了掌握来源的声誉。在……、……、……、……和……的研究也发现了类似的积极结果。 当我们无法再区分真实内容和AI生成内容时，试图决定信任什么会让人感到彻底的徒劳。但是，我们可以通过加倍重视一个古老的教训——声誉的重要性，来更好地应对当今的知识生态系统。 本文由第三方内容提供商提供。SeaPRwire (https://www.seaprwire.com/)对此不作任何保证或陈述。...