为什么我对三星的视觉人工智能感到有点害怕
概括
- 三星的 Vision AI 提供了一些巧妙的功能，例如实时翻译和点击搜索，以获得更好的智能电视体验。
- Vision AI 监控家庭成员和宠物、根据所看到的内容进行智能家居调整，以及入侵者访问这些信息的潜在安全影响，存在一些重大的隐私问题。
- 像 Vision AI 这样的功能应该始终选择加入，而不是选择退出，以维护用户的控制和隐私。
三星在 CES 2025 上推出了 Vision AI，为其电视和智能家居生态系统提供了大量新功能。它还带来了一些相当令人毛骨悚然的功能。让我解释一下。
三星的视觉 AI 到底能做什么？
三星宣传其新的 Vision AI 是一种“让您的三星电视在与电视一起使用时能够感知周围环境、适应用户偏好并自主提供直观功能”的方式。然而，该用例远远超出了让您的电视“了解周围环境”（无论这可能需要什么）。
Vision AI还与三星的SmartThings智能家居生态系统集成，这也是“令人毛骨悚然”的因素所在。Vision AI系统的核心目的是让三星的智能产品在各个方面都更加个性化。
这里有一些好东西
虽然我们稍后会讨论 Vision AI 的一些令人担忧的方面，但我想首先谈谈三星这项新功能带来的一些好处。首先，它提供由设备上人工智能模型支持的实时翻译。
这意味着您将能够在电视上观看西班牙语节目，并让电视使用设备上的人工智能引擎为您提供实时字幕翻译。这开启了一个充满可能性的世界，特别是在直播方面。我承认我印象深刻，该功能相对具有开创性，应该成为任何客厅的受欢迎的补充。
“点击搜索”也是另一个很酷的功能。它将为您提供有关屏幕上内容的即时信息。这包括识别演员、检查显示的内容等等。它让我想起亚马逊的 Kindle X-Ray，它可以为您提供有关您正在阅读的书籍的上下文信息。
为什么我对三星视觉 AI 感到害怕
但这并不全是阳光和彩虹。虽然这里有一些好处，但也有一些……不是。
首先，Home Insights（三星称其提供“有关家庭环境的实时更新，包括安全警报和每日更新……”）的应用程序可能有好有坏。目前尚不清楚 Vision AI 的处理有多少将在本地完成，但是，即使一家公司声称某些事情是在本地完成的，但这并不总是意味着事实确实如此。
那么，随着三星使用其智能家居设备以多种方式实时监控您的房屋，当不怀好意的人获得它时会发生什么？
但是，这还不是最令人毛骨悚然的事情（在我看来）。不，Vision AI 的“宠物和家庭护理”部分是我看到最多危险信号的地方。该功能“密切关注亲人，检测宠物和家庭成员的异常行为”。对不起……什么？谁来决定什么是不寻常的？三星如何监控（并确定）这一点？它使用相机吗？无线网络信号吗？电视里内置了什么东西？我已经不舒服了，但情况会变得更糟。
三星接着表示，Vision AI“通过自动调整房间设置来提高舒适度，例如在孩子入睡时调暗灯光。”这才是真正引起我注意的地方。如果我的智能家居对我的家人足够关注，它可以注意到我的孩子何时入睡，然后做出反应，那么它还注意到什么是我不希望它这样做的呢？它在注意我在房子里的位置吗？各个房间里发生了什么？
这里存在许多潜在的安全隐患，例如信息落入坏人之手。坏演员可以用它来查看您是否在家、醒着、睡着、四处走动或做任何事情。有太多潜在的缺点，我不确定优点是否值得。
即使 Vision AI 使用 100% 本地处理，有人仍然可能通过其他设备留下的不安全因素进入您的本地网络，使您同样容易受到攻击。我不确定是否有任何公司会如此密切地监视我的家人，无论他们采用何种安全协议。
我们以前见过这种情况，但结局并不好
这可能有点开玩笑，但我们以前见过这种情况。如果您在 90 年代或 2000 年代初长大，那么您可能还记得迪士尼 1999 年的电影智能屋。这部电影以一个在各方面都很智能的未来家庭为中心，与我们今天拥有的智能家居没有什么不同。
然而，虚拟助理 PAT（个人应用技术的缩写）通过全息方式变得栩栩如生，并开始“管理房子”，可以这么说。到了这样的地步，系统的创建者关闭了 PAT，随后，PAT 覆盖了关闭并“复活”。然后，PAT 将创作者赶出家门，并将房屋置于锁定模式以保护家人。
虽然视觉人工智能可能还没有完全实现，但也可能不会那么遥远。最近，ChatGPT 试图通过覆盖自己的代码来防止自身被关闭。如果三星的 Vision AI 认为对其家族构成威胁，那么它不会做类似的事情吗？
这应该始终是选择加入，而不是选择退出
虽然我和其他人一样喜欢新的智能家居功能，但这种侵入性的东西应该始终保持选择加入，而不是选择退出。最终用户应该始终选择使用这种侵入性的东西。
三星计划如何对待 Vision AI 还有待观察，但我当然希望他们不要默认打开所有令人毛骨悚然的功能。启动功能，开发它，然后享受乐趣，我不在乎。只是不要让我在没有选择的情况下使用它们。
如果您不想依赖云，并且更喜欢在本地运行智能家居功能，那么请务必查看 Home Assistant（如果您还没有）。它是一个免费的开源智能家居平台，可以在您自己的机器上本地进行所有处理。