谈到社交媒体，我们都知道，除了它在简化联系方面提供的诸多好处之外，在线互动也可能带来一定的风险和危险，尤其是对年轻人而言。值得庆幸的是，有些应用程序正在积极主动地尝试通过实施适当的节制技术来限制这些可能对年轻人造成的伤害。 Yubo 是 Z 世代最常使用的社交发现应用程序，它宣布其直播音频调节技术正在扩展到其最大的市场，即美国、英国、澳大利亚和加拿大。 这是在美国某些地区对该功能进行了几个月的测试之后，该公司学会了如何解决实时分析音频所带来的问题。
内容审核的重要性
在线审核内容是一项艰巨的工作。我们已经在 Facebook、Twitter 和 Instagram 等网站上看到了这一点。在侮辱、仇恨评论，甚至有时是暴力或自残之间，适度对于保持这些平台的安全和用户的保护是非常重要的。能够隐藏在互联网提供的假定匿名背后，这可能会暴露出某些人最坏的一面。 好吧，Yubo 继续表明它正在尽其所能帮助防止这种情况发生，特别是因为它的用户群要年轻得多。据宇博称，他们 99% 的用户群是 13-25 岁的 Z 世代。虽然网上骚扰对任何人来说都不好忍受，但对青少年来说尤其有害。 图像和视频审核技术已经存在了一段时间，并已在不同阶段取得成功。然而，音频审核仍然是一个重大挑战，尤其是在直播方面。无论是在街上行走时拍摄的直播还是某人正在玩电子游戏的直播，都无关紧要。
Yubo 的音频审核如何工作
从 2022 年 5 月开始，Yubo 开始在美国多个地区对其音频调节技术进行试用。现在下一阶段包括 Yubo 拥有大量用户群的大多数英语地区，以便公司能够更好地了解他们的新安全工具。 虽然仍然是新技术，但这项技术最终可能会在未来被广泛用于检测暴力或自残行为。 Yubo 并不是独自完成这一切，而是与 Hive 合作。Hive，如果您还没有听说过的话，是一家创建并提供内容审核 API 以近乎实时地处理图像和视频的公司。 Yubo 实施的技术通过在 10 人或更多人的直播中录制和转录 10 秒的音频片段来发挥作用。文本会立即由人工智能进行分析，以检测任何违反应用程序社区准则的单词或短语。 等等，它不止于此。虽然人工智能可以很好地检测到这些东西，但它离区分实际有问题的用途和错误标记的地步还很远。 虚假标记可以是，例如，在背景中播放的歌曲，或者不是故意的玩笑语言。 因此，这就是 Yubo 的安全专家发挥作用的地方，因为他们被带进来调查标记的事件。如果应该对使用脏话的人采取行动，或者即使需要引入执法部门，人类也是决定情况是否需要升级的人。 如果直播完全没问题，则不会审查任何成绩单或保留超过 24 小时的限制，因此一切都是私密的；或者像 10 人以上的直播一样私密。 但是，如果算法检测到暴力威胁、仇恨言论或自残等行为，则记录最多可存储一年。当然，这是公司的一项安全措施，以防执法部门需要这些信息或公司本身需要详细信息以进行进一步的内部调查。 Yubo 的首席运营官 Marc-Antoine Durand 将音频调节技术的扩展视为整个行业在线安全发展的关键因素。 “在语音检测领域仍有很多进展，但我们很自豪能够成为第一个使用 Hive 启动音频节制的人，为我们的同行开辟一条道路，并通过这次审判，”杜兰德说。 显然，社交平台不希望出现猖獗的欺凌、仇恨言论和煽动暴力的评论，因为这会排挤其他用户。实施此类审核技术是确保用户安全的重要工具，也有助于保证 Yubo 的长期发展和成功。
本文采用 署名-非商业性使用-相同方式共享 4.0 国际 许可协议，转载请注明出处。
