AI安全公司Anthropic通过最新研究，详细阐述了其“宪法AI”训练方法，该方法通过一套原则性文件而非大量人工反馈来指导AI模型...
美国与中国在瑞士日内瓦举行了首次关于人工智能安全与风险的高级别政府间会谈。双方就AI技术带来的风险、安全挑战以及如何推动全球治理框架...
英国政府与ChatGPT开发者OpenAI正式签署战略合作协议，双方将深化在人工智能安全研究领域的合作，并共同探索数据中心等关键基础...
被誉为“AI教父”的杰弗里·辛顿再次发出严厉警告，他批评许多大型科技公司为了商业利益而刻意淡化人工智能的潜在生存风险，呼吁行业正视这...
OpenAI首席执行官山姆·奥特曼在最近的采访中坦言，即将面世的GPT-5模型能力强大到令其创造者都感到震惊与恐惧，并警告人工智能的...
专注于人工智能安全工具开发的初创公司Noma Security成功获得1亿美元B轮融资。本轮融资由Evolution Equity ...
通过剖析罗杰·罗伯、奥本海默和丘吉尔的三句关键名言，本文深入探讨了颠覆性技术背后的科学家责任、技术诱惑以及失控权力的深刻风险，为当前...
一项由Anthropic、加州大学伯克利分校等多家顶尖机构合作的最新研究，推出了一种创新方法，能够实时监控和主动控制AI助手的“谄媚...
韩国AI初创公司Datumo完成1550万美元A轮融资，由Salesforce Ventures参投。该公司专注于大语言模型评估，旨...
被誉为“AI教父”的杰弗里·辛顿在Ai4会议上提出，试图让超级智能顺从人类是注定失败的策略。他创新性地建议，应为AI植入“母性本能”...