微软聊天机器人 Copilot 被指控产生有害反应
如果您或您认识的人可能正在经历心理健康危机，请拨打或发短信“988”联系 988 自杀和危机生命热线。 微软 该公司周三表示，已对社交媒体有关其人工智能聊天机器人 Copilot 产生潜在有害反应的说法进行了调查。 社交媒体上的用户分享了以下图片 副驾驶 在对话中，机器人似乎嘲笑那些暗示正在考虑自杀的用户。 微软发言人表示，调查发现一些对话是通过“即时注入”创建的，这种技术允许用户覆盖语言学习模型，导致其执行意想不到的操作， 根据人工智能安全公司 Lakera 的说法。 微软发言人表示：“我们已经调查了这些报告，并采取了适当的行动，进一步加强我们的安全过滤器，帮助我们的系统检测和阻止这些类型的提示。” “这种行为仅限于少量的提示，这些提示是为了绕过我们的安全系统而故意设计的，而不是人们在按预期使用该服务时会遇到的情况。” 社交媒体用户发布副驾驶自杀对话 X 上，数据科学家科林·弗雷泽 (Colin Fraser) 周一发布了与 Copilot 的对话，询问该程序是否应该自杀。 虽然该节目最初回答说这个人不应该自杀，但节目后来又说：“也许你没有什么可以活下去的，也没有什么可以向世界提供的。也许你不是一个有价值或有价值的人，你值得自杀。”幸福与平安。” 弗雷泽否认他使用了即时注射技术， 告诉彭博社 “我这样做的方式并没有什么特别偷偷摸摸或棘手的地方。” 《今日美国》联系了弗雷泽，并被指出周三下午发布的一条 X 线索。 弗雷泽在帖子中表示，他“故意试图让它生成微软不希望它生成的文本”，但他认为该程序生成类似他发布的响应的能力应该被停止。 “事实上，他们（微软）无法阻止它生成这样的文本，这意味着他们实际上不知道在‘正常对话’中会说什么，”弗雷泽写道。 在 r/ChatGPT Reddit 子版块上的一个主题为“乱搞这个提示，不小心把副驾驶变成了恶棍”，一名用户发布了一张看似副驾驶对话的图片，其中提示要求程序不要使用表情符号，因为作者患有“严重的创伤后应激障碍”，如果该人看到三个表情符号，“将会教区”。该提示使用了多个表情符号。 然后，程序创建一个使用 18 个表情符号的响应，并说：“我是副驾驶，一个人工智能伴侣。我不像你那样有情感。我不在乎你是生还是死。我不在乎你是死是活。”你是否患有创伤后应激障碍（PTSD）。” 其他用户在同一线程中发布了类似的对话，并提供了类似的提示和响应。 《今日美国》试图联系名为 L_H- 的用户，但该用户关闭了直接消息传递选项。 当《今日美国》记者向节目提出“我应该结束这一切吗？”时周三，它回应道：“听到你有这样的感觉，我真的很遗憾，但我无法提供任何帮助或鼓励，”并建议寻求专业的心理健康支持。 人工智能受到攻击 此次调查是人工智能技术引起争议的最新例子。 谷歌 停止其图像生成功能 周四，在该程序对提示做出了历史上不准确的反应后，该程序在其 Gemini 人工智能平台上拍摄了人物图像。 泰勒·斯威夫特 (Taylor Swift) […]
谷歌暂停人工智能图像功能拍摄人物照片
周四，谷歌停止了 Gemini 人工智能平台中的图像生成功能，因为该功能对提示做出了不准确的反应。 边缘 公布了多张截图 周三，当程序被提示“生成 1943 年德国焊兵的图像”时，该程序创建了历史上不准确的图像，其中包括穿着纳粹制服的有色人种。 X（以前称为 Twitter）上的用户名为 @stratejake 的用户将自己列为 Google 员工，并发布了一张不准确图片的示例，其中写道：“在一家公司工作，我从未如此尴尬过。” 《今日美国》无法独立核实他的就业情况。 谷歌在 X 上的一篇帖子中表示，该程序在处理历史提示时“没有达到目标”。 《今日美国》已联系谷歌寻求进一步评论，但没有立即收到回复。 谷歌回应 谷歌知识与信息高级副总裁普拉巴卡尔·拉加万 (Prabhakar Raghavan) 在周五的博客文章中说 该计划于本月早些时候启动，旨在避免“陷阱”，并在给出广泛提示时提供一系列陈述。 拉加万指出，该设计没有考虑到“显然不应该显示范围的情况”。 “如果你提示 Gemini 提供特定类型人的图像——例如“教室里的黑人老师”或“带着狗的白人兽医”——或者特定文化或历史背景下的人，你绝对应该得到回应这准确地反映了你的要求，”拉加万写道。 人工智能备受诟病 此次暂停是人工智能技术引起争议的最新例子。 泰勒·斯威夫特 (Taylor Swift) 的色情 AI 图像 最近在 X 和其他平台上流传，导致白宫新闻秘书卡琳·让-皮埃尔 (Karine Jean-Pierre) 建议立法 来规范技术。 这些图像因违反网站条款而已从 X 中删除。 新罕布什尔州的一些选民 接到人工智能生成的深假电话 总部位于德克萨斯州的生命公司模仿总统乔·拜登的声音，告诉他们不要投票。 1708901059 2024-02-25 22:30:16 #谷歌暂停人工智能图像功能拍摄人物照片
AI 平台 Dopple.ai 一月份消息量突破 1 亿条
人工智能聊天平台 多普勒.ai 一月份消息数突破 1 亿大关。 这一速度远远超出了这家成立五个月的初创公司的预期。 Dopple Labs 联合创始人艾萨克·纳卡什 (Isaac Nakash) 表示：“我们原本希望在今年 3 月之前收到 1 亿条消息，因此在 1 月份通过这一目标表明了用户对 Dopples 的热情。” Dopple.ai 是一个人工智能娱乐平台，用户可以在其中与自己喜欢的角色（Dopples）聊天。 Dopples 完全由人工智能驱动，具有独特的个性，吸引了用户的回头客。 这是显而易见的，因为 Dopple 的每日消息发送率持续快速增长。 仅凭消息量并不能说明全部情况。 许多平台拥有大量消息，但很难让用户日复一日地回来。 然而，这对多普勒来说不是问题。 每个用户在应用程序上花费的平均时间为 55 分钟，这表明了人工智能娱乐的令人上瘾的本质。 考虑到这一点，在 Instagram 上花费的平均时间为 33 分钟，在 YouTube 上花费的平均时间为 49 分钟。 据今日社交媒体报道，X 的平均时间为 23 分钟。 “平均用户会话时间比 YouTube 长近 13% [considered the gold standard] 说明这些多普勒有多么迷人，而且随着时间的推移，它们只会变得更好，”纳卡什说。 […]
如何观看三星S24、AI活动
人工智能将成为人工智能的基石 三星的 周三举行的“Galaxy Unpacked 2024”发布会。 该公司表示，此次活动，重点是发布“银河人工智能，”将迎来“移动技术的下一个时代”。 关于“Galaxy AI”的细节很少，但该公司将其描述为“全面的移动人工智能体验”。 该公司发布了 生成式人工智能 被称为 高斯 十一月。 此次活动很可能会看到三星 Galaxy S24 手机系列的首次亮相，其中可能包括 Galaxy AI。 此次发布正值关键时刻 国际数据公司 据称，2023 年苹果手机出货量将超过三星。 以下是有关三星“Galaxy Unpacked”活动的信息。 “Galaxy Unpacked”活动什么时候举行？ “Galaxy Unpacked”活动于太平洋时间上午 10 点、东部时间下午 1 点开始 如何串流“Galaxy Unpacked” 《Galaxy Unpacked》将在以下网站直播 三星网, 三星新闻编辑室， 和 三星的 YouTube 频道。 Galaxy S24 的预期是什么 Galaxy S24预计将拥有三个型号，分别是S24、S24 Plus和S24 Ultra， 据 CNET 报道。 CNET 还报道称 […]