根据一项针对最近出版的 2000 多本图书的最新研究,亚马逊上近三分之二的宗教书籍样本可能是由人工智能编写的。
在周三发布的一份报告中,人工智能检测公司 Originality.ai 在 14 个宗教和信仰类别的 2,034 本书中标记出 1,272 本书(即 63%)可能是由人工智能编写的。
《巫术》的比例最高,亚马逊巫术、巫术和异教类别中抽取的书籍中有 78% 被归类为可能由人工智能编写。这些标题涵盖的主题包括治疗水晶、草药和净化“负能量”。据报告作者迈克尔·弗雷曼称,许多巫术书籍都集中在这些主题上。
“人们可以将理想的客户想象为寻求自我治愈、改善心理健康或从常见化学品和药物中‘排毒’的解决方案的人,”弗莱曼告诉 。 “这些巫术崇拜者书籍可以解决这些问题,而无需遵循任何科学标准。”
印度教以 76% 排名第二,道教紧随其后,为 74%,锡克教、佛教、伊斯兰教、天主教、新教、东正教和犹太教介于两者之间。摩门教占 42%,无神论占 40%,撒旦教占 22%。研究人员警告说,不同类别的样本量差异很大。
弗莱曼说,研究人员分析了书籍描述、作者简介和样本,将得分为 50 或更高的文本分类为“可能是人工智能”。但他警告说,结果表明的是可能性,而不是证据。
“我们不会断言书籍是否绝对是人工智能编写的,”他说。 “我们的模型在一定程度上确定了人工智能编写某些内容的可能性。”
弗莱曼指出,研究人员还抽查了标记为可能由人工智能生成的书籍。
“至此,我们的研究团队可以区分人工智能编写的内容和人类编写的内容之间的区别,”他补充道。
尽管弗雷曼对研究结果表示有信心,但人工智能探测器却产生了误报和相互矛盾的结果。
2024 年 10 月,对四个人工智能探测器的测试在分析美国《独立宣言》时产生了相互矛盾的结果。 ZeroGPT 发现该文本 97.93% 是人工智能生成的,而 QuillBot 发现它完全是人类编写的,GPTZero 认为它有 89% 的可能性是人类编写的。
最近,三月份,哥伦比亚最高法院驳回了一份法律申请,因为探测器将其标记为人工智能生成。当一名律师向同一个检测器提交法院裁决时,该裁决被评为 93% 是人工智能生成的。
亚马逊没有立即回应 的置评请求。
他说:“亚马逊意识到人工智能编写的内容在他们的平台上有多常见,并使用作者荣誉系统来自我认定他们的作品是人工智能编写的。”他补充说,该公司没有与亚马逊分享其发现。 “我们没有关于有多少作者实际披露这一点的数据。”
使用实体书来训练人工智能也受到了密切关注,因为开发人员购买了数百万本书,将它们拆开,将它们的页面扫描到训练数据集中,然后丢弃原件。
八月,一项调查追踪了一批善本书籍运往拉斯维加斯的亚马逊工厂,那里的工作人员切断了书籍的装订并扫描了页面以获取人工智能训练数据。亚马逊证实,其通过商业渠道购买图书以开展业务。