OpenAI称不会在ChatGPT文本上打水印,防止用户感到不满
2024-08-05 08:29:28爱云资讯阅读量:3,765
(爱云资讯消息)据《华尔街日报》报道,OpenAI已经开发了一套为ChatGPT生成的文本打水印的系统和一个用于检测水印的工具,大约有一年的时间了。但公司内部对于是否发布该系统存在分歧。一方面,这样做似乎是负责任的做法;另一方面,可能会影响其收入。
OpenAI的水印技术被描述为调整模型预测前一个词或短语之后最有可能出现的词或短语的方式,从而创建一个可检测的模式。
OpenAI发现,当生成的文本足够多时,这种水印技术的有效性为99.9%,这可能对教师来说是一个潜在的好处,他们试图阻止学生将写作作业交给AI处理,而不会影响其聊天机器人的文本输出质量。
《华尔街日报》称,他们进行的一项调查显示,全球各地的人们对AI检测工具的支持比例为4比1。但OpenAI似乎担心使用水印可能会让接受调查的ChatGPT用户感到不满,有近30%的用户明确表示,如果实施水印,他们会减少使用该软件。
据《华尔街日报》报道,一些员工还担心,可以通过诸如在Google翻译中来回切换语言、让ChatGPT添加表情符号并在之后删除等技巧来轻易绕过水印。
尽管如此,员工们仍然认为这种方法有效。鉴于用户的不满情绪,文章称一些人建议尝试在用户中可能引发较少争议但尚未得到证明的方法。
相关文章
- OpenAI推出首款具有推理能力的模型o1
- OpenAI财务上捉襟见肘,可能会将订阅费用提高到每月2000美元
- OpenAI ChatGPT用户激增至2亿,亚马逊/微美全息加速布局大模型市场蓝海
- 苹果和英伟达可能会投资OpenAI
- OpenAI因反对一项人工智能安全法案而惹非议
- 拯救者杯OPENAIGC开发者大赛8月17日迎来决赛
- OpenAI称不会在ChatGPT文本上打水印,防止用户感到不满
- 量子位智库发布《AI视频生成研究报告》 OpenAI万兴科技Adobe美图等入选代表企业
- OpenAI开始为ChatGPT推出新的高级语音模式
- OpenAI推出人工智能搜索引擎SearchGPT
- OpenAI“草莓”大模型新项目曝光,微美全息探航AI风口加快落地应用
- OpenAI发布一款更便宜、更智能的新模型,命名为GPT-4o Mini
- OpenAI开发系统来确定其人工智能系统的智能程度,从1级到5级不等
- OpenAI ChatGPT软件安全漏洞:Mac版竟然以纯文本形式存储对话
- 外媒:苹果公司的菲尔·席勒将加入OpenAI董事会
- OpenAI“断供”中国 百度阿里讯飞万兴科技等开启全新应用战场
人工智能技术
人工智能公司
人工智能硬件
人工智能产业