OpenAI发布的最新威胁情报报告揭示了不法分子如何利用其AI模型ChatGPT实施一系列恶意活动。报告详细披露了包括现代化的“杀猪盘”式恋爱骗局在内的多种诈骗手法。
报告首先展示了一场据称源自柬埔寨的“浪漫诈骗”活动。该诈骗群体利用ChatGPT为虚假的“高端交友服务”创建标识、生成虚假人物照片，并寻求相关建议。该骗局主要针对特定人群，通过虚构的女性形象和关系类型列表诱导受害者，实质上是AI聊天机器人在进行初步接触。在取得信任后，受害者会被引导至其他通讯平台。
在该平台上，诈骗人员结合ChatGPT及其他工具，使用特定话术诱导受害者完成一系列所谓的“任务”，这些任务通常涉及要求进行金额逐步增大的转账或支付。
除了恋爱诈骗，OpenAI还披露并封禁了一组伪装成律师事务所、个人律师及执法机构的ChatGPT账户。这些诈骗者曾利用ChatGPT生成虚假的专业机构会员卡等凭证，并通过社交媒体进行推广以实施诈骗。
OpenAI通过此次报告，警示了AI技术被滥用于非法活动的风险，并展示了其对此类恶意行为进行监测和采取封禁等应对措施的现状。
