欧洲刑警组织3月27日警告，犯罪分子恐利用ChatGPT等人工智能AI精进犯罪手段。与此同时，“科技狂人”马斯克与上千名人工智能专家及行业高管发出公开信，呼吁暂停训练比OpenAI GPT-4更强的聊天机器人6个月，并提到了对社会和人类的潜在风险。
欧洲刑警组织在最新报告中说，从发动网络钓鱼攻击、散布不实讯息到安装恶意软体等，聊天机器人快速发展出的能力，不只有利于人类，也有助于歹徒吸金诈财。
美国新创科技公司OpenAI研发的ChatGPT去年11月推出，因能清楚回答困难问题、作词写诗或编写程式甚至还能通过考试，令使用者大为惊艳，纷纷应用于日常生活。
总部设于海牙的欧洲刑警组织说：“犯罪分子可能利用这类AI系统犯案，这样的前景令人堪忧。”
欧洲刑警组织表示，他们新设的“创新实验室”（Innovation Lab）虽着眼于整体聊天机器人的使用，但在一系列研讨会特别聚焦于ChatGPT，因为后者最引人注目和使用最为广泛。
欧洲刑警组织发现，犯罪分子可能会利用ChatGPT“大幅加快对未知领域的研究程序”，可能包括草拟欺诈犯案计划，或是查询“如何闯入民宅、犯下恐怖行动、网络犯罪与儿童性侵案”的资讯。
聊天机器人能模仿说话风格，对于发动网络钓鱼攻击特别能派上用场，能引诱使用者点击假的电邮连结，之后再试图窃取他们的资料。
ChatGPT能迅速产出逼真的语音文本，成为“用于宣传与散布不实信息的理想工具，能相对更不费工就产出、散布反映特定论述的信息”。
ChatGPT也可用来编写电脑程式，对没有技术能力的犯罪分子特别有利，“这类自动程式生成能力，对那些对编码和开发所知甚少或一无所知的犯罪行为者特别有用”。
欧洲刑警组织指出，美国与以色列网络威胁情报公司Check Point Research的初步报告显示，聊天机器人可用来撰写钓鱼电子邮件渗透网络系统。虽然ChatGPT有防护措施，包括内容审查，不会回答被归类为有害或有偏见的问题，但可藉由输入巧妙的提示词规避。
这份欧洲刑警组织的报告还说，人工智能仍在初步发展阶段，能力“预计将随时间而提升”，但“最重要的是要提高外界对此的认知，以确保找出任何可能的漏洞，尽快采取行动堵住。”
与此同时，“科技狂人”、亿万富豪马斯克与上千名人工智能专家及行业高管发出公开信，呼吁暂停训练比OpenAI GPT-4更强的聊天机器人6个月，并提到了对社会和人类的潜在风险。
这封由非营利组织未来生命研究所（Future of Life Institute）发布，并由包括马斯克、英国开源人工智能企业Stability AI的创办人兼首席执行员穆斯塔克、Alphabet旗下的DeepMind研究人员以及人工智能重量级人物本吉奥和拉塞尔等1000多人联署的公开信，呼吁暂停高级人工智能开发，直到此类设计的共享安全协议由独立专家制定、实施和审核。
公开信称：“只有当我们确信它们的影响将是正面的，并且它们的风险将是可控的时候，才应该开发强大的人工智能系统。”
这封信还详细列明与人类竞争的人工智能系统，以经济和政治破坏的形式，对社会和文明造成的潜在风险，并呼吁开发人员与政策制定者，就如何治理人工智能与监管机构合作。
未来生命研究所的一名发言人告诉路透社，OpenAI的首席执行官奥尔特曼未签署这封信。路透社指，OpenAI没有立即回应置评请求。
“这封信并不完美，但精神是正确的：我们需要放慢脚步，直到我们更好地理解其后果。”签署这封公开信的纽约大学名誉教授马库斯说：“它们可能会造成严重伤害……主要玩家对他们正在做的事情越来越保密，这使得社会很难抵御可能出现的任何伤害。”
