数码之家

 找回密码
 立即注册
搜索
查看: 251|回复: 0

[业界] OpenAI 承认正研发 ChatGPT 文本水印,但面临挑战

[复制链接]
发表于 2024-8-5 22:44:18 | 显示全部楼层 |阅读模式

爱科技、爱创意、爱折腾、爱极致,我们都是技术控

您需要 登录 才可以下载或查看,没有账号?立即注册

x
据《华尔街日报》报道,OpenAI 已经开发出一款能够高精度识别 ChatGPT 生成文本的工具,但迟迟未发布。对此 OpenAI 进行了回应,承认正在研究文本水印技术,但表示这项技术仍存在诸多挑战。
图源 Pexels
据IT之家了解,通过文本水印,OpenAI 将只专注于检测来自 ChatGPT 的文字,而不是来自其他公司模型的文字。其将通过对 ChatGPT 选择单词的方式进行微小的更改来实现这一点,本质上是在文字中创建一个不可见的水印,以后可以被一个单独的工具检测到。
OpenAI 称,文本水印是他们探索的多种解决方案之一,其他还包括分类器和元数据,旨在确定文本的来源。尽管在某些情况下,文本水印技术表现出色,但面对翻译、改写或插入特殊字符等篡改行为时效果会下降。此外,该技术可能对某些群体产生不成比例的影响,例如非英语母语人士。
OpenAI 表示,由于这些复杂因素及其对整个生态系统潜在的影响,OpenAI 表示将谨慎推进文本溯源技术的研究,并优先考虑视听内容的认证工具。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

APP|手机版|小黑屋|关于我们|联系我们|法律条款|技术知识分享平台

闽公网安备35020502000485号

闽ICP备2021002735号-2

GMT+8, 2025-5-2 19:57 , Processed in 0.140400 second(s), 8 queries , Redis On.

Powered by Discuz!

© 2006-2025 MyDigit.Net

快速回复 返回顶部 返回列表