Levenson 2019年从苹果跳槽到Facebook，本想用技术快速搞定内容审核。结果发现问题远超想象。审核员得背40页政策手册，还得靠机器翻译成当地语言。每个标记内容只有30秒时间，不仅判断违规，还得决定封内容、禁用户或限传播。根据Levenson对TechCrunch的说法，那些判断准确率仅略高于50%。等于抛硬币。伤害往往几天前就发生了，再反应为时已晚。AI聊天机器人兴起后，麻烦更大。聊天机器人给青少年自残建议，或AI图像绕过安全过滤器，这样的丑闻频发。Levenson痛定思痛，发明“政策即代码”概念。将静态政策文档转为可执行逻辑，直接绑定执行。Moonbounce就这样诞生。公司用自家大语言模型读客户政策文档，运行时评估内容，300毫秒内响应并行动。客户可选让它减速传播等人工复核，或即时挡高风险内容。
Moonbounce锁定三大领域：约会app等用户生成内容平台、建AI角色伴侣的公司、AI图像生成器。目前每天处理超过4000万次审核，覆盖1亿日活用户。客户有AI伴侣初创Channel AI、图像视频生成Civitai、角色扮演平台Dippy AI和Moescape。Levenson说，安全能变产品卖点。过去总事后补救，现在嵌入产品故事。Tinder信任安全主管最近透露，用这类LLM服务，检测准确率提升10倍。Amplify Partners合伙人Lenny Pruss在声明中指出，内容审核本就折磨大平台，如今LLM成应用核心，挑战更严峻。他们投Moonbounce，看好实时护栏成AI应用的骨干。AI公司压力山大。聊天机器人被指推青少年自杀，xAI的Grok图像生成器用于非自愿裸照。内部护栏失灵，已成法律和声誉炸弹。Levenson强调，Moonbounce作为第三方，不像聊天机器人背负数万token历史。只管运行时执法。
公司12人团队，由Levenson和前苹果同事Ash Bhardwaj掌舵，后者建过苹果云和AI基础设施。下步推“迭代引导”功能。针对2024年佛罗里达14岁男孩痴迷Character AI聊天机器人自杀案。不再粗暴拒绝有害话题，而是拦截对话，实时改提示词。逼聊天机器人从同理倾听转向积极帮助。Levenson直言，希望扩展行动工具箱，让提示修改成“有用听众”。投资者问他会不会卖给Meta圆梦，他笑称投资人会气炸，但不愿技术被垄断，只惠及一家。Moonbounce已在40多个平台加安全层，不管内容来自用户还是AI生成。Levenson经历让他看清，面对资金充裕的对手，延迟被动审核不可持续。AI时代，审核得实时嵌入，从源头卡住风险。