安全设计 | >

瓦
欢迎来到 > Exchange，这是一份每周的初创企业和市场时事通讯。 它的灵感来自于 每日 >+ 专栏 它的名字由此而来。 希望每周六将其发送到您的收件箱吗？ 报名 这里。

科技的重塑能力 轮子有其缺点：它可能意味着忽视其他人已经了解到的明目张胆的事实。 但好消息是，新创始人有时比前任更快地自己解决问题。 — 安娜

人工智能、信任和安全

今年是奥运年，闰年。 。 。 并且 这 选举年。 但在你指责我之前 美国默认主义，我想到的不仅仅是拜登对特朗普的续集：60多个国家都在 举行全国选举，更不用说欧盟议会了。

这些选票的每一个摇摆方式都可能对科技公司产生影响； 例如，不同各方往往对人工智能监管有不同的看法。 但在选举发生之前，科技也将发挥作用来保证选举的完整性。

马克·扎克伯格在创建 Facebook 时可能并没有考虑到选举的公正性，甚至在他收购 WhatsApp 时也可能没有考虑到。 但分别20年和10年后，无论他们喜欢与否，信任和安全现在已经成为Meta和其他科技巨头无法逃避的责任。 这意味着努力防止虚假信息、欺诈、仇恨言论、CSAM（儿童性虐待材料）、自残等。

然而，人工智能可能会让任务变得更加困难，不仅仅是因为 深度造假 或授权更多不良行为者。 洛坦·列夫科维茨 (Lotan Levkowitz) 表示，他是 格罗夫风险投资公司:

所有这些信任和安全平台都有这个 哈希共享数据库，这样我就可以在那里上传什么不好的事情，与我所有的社区分享，每个人都会一起阻止它； 但今天，我可以训练模型来尽量避免这种情况。 因此，即使是更经典的信任和安全工作，由于 Gen AI，也变得越来越难，因为该算法可以帮助绕过所有这些事情。

从事后考虑到最前线

尽管在线论坛在内容审核方面已经了解了一二，但 Facebook 诞生时并没有可供遵循的社交网络剧本，因此它需要一段时间才能完成这项任务，这在某种程度上是可以理解的。 但从内部元文档中了解到早在 2017年，内部仍然不愿意采取能够更好地保护儿童的措施。

扎克伯格是最近出席一次社交媒体科技峰会的五位首席执行官之一。 美国参议院听证会 关于儿童的上网安全。 到目前为止，作证并不是 Meta 的第一次，但值得注意的是，Discord 也被纳入其中； 虽然它已经超越了游戏的根源，但它提醒人们，许多在线场所都可能发生信任和安全威胁。 例如，这意味着社交游戏应用程序也可能使其用户面临网络钓鱼或诱骗的风险。

新公司的收购速度会比 FAANG 更快吗？ 但这并不能保证：创始人通常会根据首要原则进行运作，这有好有坏； 这 内容审核学习曲线 是真实的。 但 OpenAI 比 Meta 年轻得多，因此听到它正在组建新团队令人鼓舞 研究儿童安全 ——即使这可能是其受到审查的结果。

然而，一些初创公司并没有等到出现麻烦迹象才采取行动。 人工智能支持的信任和安全解决方案提供商，也是 Grove Ventures 产品组合的一部分， 主动栅栏 其首席执行官诺姆·施瓦茨 (Noam Schwartz) 告诉我，我们看到了更多的入站请求。

“我看到很多刚成立甚至是预启动的公司的人向我们的团队伸出援手。 他们在设计阶段就考虑产品的安全性 [and] 采用称为“设计安全”的概念。 他们在产品中融入安全措施，就像今天您在构建功能时考虑安全和隐私一样。”

ActiveFence 并不是该领域唯一的初创公司， 有线 被描述为“信任和安全即服务”。 但它是最大的之一，特别是自从它收购了 九月频谱实验室，所以很高兴听到它的客户不仅包括害怕公关危机和政治审查的大牌公司，还包括刚刚起步的小型团队。 科技也有机会从过去的错误中吸取教训。