AI决策模式如何改变内容节制
原题:How AI decision models could change content moderation
内容导读
穆苏比星期二宣布了一个为实时节制而制作的轻量级决定模型,取名"PolicyLM-1.7B",发布时有开放重量.

全文阅读
来源:TechCrunch即会翻译
随着决策模式在整个行业的传播,一家叫作"穆苏比"的公司对如何将其投入工作有了新的想法:调和内容.穆苏比星期二宣布了一个为实时节制而制作的轻量级决定模型,取名"PolicyLM-1.7B",发布时有开放重量.
想法是采用用平白英语写成的内容政策,并在50毫秒以内应用到消息上.Musubi的模型在成本和速度上都与大多数社交平台上的能节制力的AI分级系统类似——但由于它具有现代LLM的灵活性,所以可以不用特殊训练就应用复杂的政策.更重要的是,当政策改变时,模式就不需要新的培训,让人力政策制定者能够按需要多做。
正如穆苏比联合创始人和AI首席军官菲利普·扬科维奇所见,它为平台管理员提供了主动给内容贴上标签的方法.
“生产团队只想更好地了解他们平台上发生的事情, 特别是内容量呈指数增长,“能够以可扩展、可定制的方式标出所有这些内容是极为有益的。”
自9月发布TypeSafe AI的Jev后,决策模型成为AI世界热门话题,之后不久又被OpenAI和亚马逊的竞争决定模型所取代.决策模型不会输出文本,而是输出结果概率,但在此情况下,模型输出二进制判断:内容要么属于类别,要么不属于类别。通过将模型的输出限制在一组预先确定的选择上,决策模型能够比大型语言模型运行得更快,更便宜,同时仍然保持了变压器架构的灵活性.
一个早期使用的案例是AI代理控制了不当行为——因此将同样的技术应用于人类不当行为是自然的.
尤其值得一提的是,扬科维奇表示他对决定模型的兴趣早于Jev,追踪到一个名为GLINER(命名实体识别通用模型)的2024年项目,该项目部署了许多相同的技术.
但穆苏比并不担心比较。如果有什么,公司迫切希望利用决策模式的新兴趣来点亮内容节制.“如果Jev注意到, PoliticalLM-1.7B是同一种模式,
原文及图片版权归原作者或相应权利人。文中观点是原作者的,与即会无关。