要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

湖南麻阳57岁男子行凶致一死一伤后潜逃 警方悬赏万元缉凶

湖南麻阳，2024年6月12日下午，湖南省麻阳苗族自治县高村镇仓屋村发生一起恶性刑事案件，一名57岁男子持械杀害一名12岁男孩并致一名60岁妇女重伤后潜逃。目前，麻阳县公安局已发布悬赏通告，对提供重要线索协助抓获犯罪嫌疑人韩某某者奖励人民币5000元，对直接抓获犯罪嫌疑人者奖励人民币10000元。

警方通报案情

据麻阳县公安局通报，6月12日13时许，犯罪嫌疑人韩某某在仓屋村因琐事持械先后将村民罗某某（男，12岁）打死、杨某某（女，60岁）打伤后逃窜。经查，韩某某与被害人罗某某系邻居，与被害人杨某某系同村村民。

嫌疑人曾烧毁房屋

据当地村民透露，案发当日，韩某某在行凶后还曾回到家中纵火烧毁了自己的房屋。有村民猜测，韩某某可能因感情纠纷或琐事引发矛盾而行凶伤人。

警方全力缉凶

案发后，麻阳县公安局立即成立专案组全力开展侦查工作，并于当日发布悬赏通告。目前，警方正加紧对嫌疑人韩某某的追捕工作。

案件引发村民关注

这起恶性案件的发生，在当地村民中引起了极大的关注和恐慌。村民们纷纷表示，希望警方能够尽快抓获凶手，绳之以法。

加强社会治安

麻阳县公安局表示，将进一步加强社会治安巡控力度，严厉打击各类违法犯罪活动，全力维护社会治安稳定。

案件警示

这起案件也再次警示我们，要加强社会矛盾纠纷排查化解工作，及时消除社会安全隐患，共同维护良好的社会治安环境。