要文快报！AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

AI安全需未雨绸缪 月之暗面CEO杨植麟谈长期布局

北京讯（记者 张楠楠）6月14日，在2024北京智源大会上，月之暗面CEO杨植麟与百川智能CEO王小川、智谱AI CEO张鹏、面壁智能联合创始人兼CEO李大海共同出席“尖峰对话：通往AGI之路”环节，探讨了人工智能安全等话题。

杨植麟表示，AI安全非常重要，虽然它可能不是当前最紧迫的问题，但却是需要我们提前去准备的。“随着模型的不断优化和Scaling Law（尺度定律）的发展，每N个月算力乘以十倍，智能水平也会得到提升，这是一个逐渐适应的过程。”他指出，AI安全不一定是当前最大的矛盾或者最紧急的事情，但肯定是长期储备。

杨植麟认为，在AI安全方面，最重要的是要关注以下两个方面：

• **模型的鲁棒性。**模型可能会因为用户本身存在恶意意图，通过prompt（提示词）让模型去做一些本来不应该做的事情。因此，需要提高模型的鲁棒性，使其能够抵御恶意攻击。
• **模型的动机。**模型本身是否有自己的motivation（动机），这与训练方式相关。需要在模型的底层去注入例如AI的“宪法”、功能去框定其行为，无论用户给什么指示，都不会违背这个“宪法”。

杨植麟强调，AI安全是一项复杂的系统工程，需要产学研各界共同努力，从技术、制度、伦理等多个层面构建起全方位的安全体系。

关于月之暗面

月之暗面成立于2021年，是一家专注于大模型研发和应用的公司。公司拥有业界领先的大模型技术，并已在多个领域落地应用，包括智能客服、内容生成、辅助决策等。

媒体联系

张楠楠

月之暗面

[移除了电子邮件地址]

《青年π计划》唱响青春之歌 新世代音乐人燃动华语乐坛

北京 - 4月27日，由爱奇艺打造的大型青年共创音乐竞演综艺《青年π计划》首播，三十位怀揣音乐梦想的音乐新生代惊艳亮相，为华语乐坛注入了新鲜血液，以朝气蓬勃的姿态唱响了青春之歌。

节目以“π世界”为舞台，鼓励多元与原创，为选手们提供了自由创作和表达自我的空间。在首场公演中，选手们带来了风格迥异的原创作品，展现了新世代音乐人的独特才华和风采。

22岁的原创音乐少女汉堡黄用鬼马精灵的唱腔诠释了新一代的音乐风格，却坦言“对接盘华语乐坛不感兴趣”；19岁就斩获金曲奖提名的独立音乐人吕彦良则力证好的音乐品味和才华是天赋，并立志成为一名艺术家；会RAP也能唱美声的歌手沈川绮则用原创作品《青杉路古堡》创造了一个架空的异次元世界，并包揽了表演服装和饰品的设计制作，展现了多才多艺的一面。

导师张亚东对选手们的表现赞不绝口，他表示：“现在的青年更自信，能通达艺术的各个领域，拥有丰富的精神世界。”他期待着选手们在接下来的节目中继续突破自我，为观众带来更多精彩的音乐作品。

《青年π计划》的播出，不仅为华语乐坛发掘了新鲜力量，也为观众带来了全新的视听体验。节目以创新的形式和多元化的内容，打造了一个充满活力和正能量的音乐舞台，为新世代音乐人的成长和发展提供了助力。相信在接下来的节目中，选手们将继续带给我们更多惊喜，共同谱写华语乐坛的新篇章。