偶然出会った彼女はAI、電話に出た警察官はディープフェイク──急速に巧妙化するAI詐欺
中文摘要
AI技术快速普及的同时，被滥用的门槛也大幅降低，诈骗手法随之迅速升级。Anthropic公司2026年9月发布报告，披露了利用Claude运营的诈骗交友应用，其中超过4700个AI虚拟人设与用户聊天，诱骗购买应用内金币。台湾诈骗集团则用AI将男性成员声音转换为女性声音，四年间从超过2万人手中骗走约9亿新台币。
关键实体
- Anthropic (org) — 美国AI公司，开发Claude
- Claude (org) — Anthropic推出的大语言模型
- Tinder (org) — 全球知名交友应用
- 台北时报 (org) — 台湾英文媒体
- 深度伪造 (event) — 利用AI生成逼真虚假音视频的技术
日文原文内容
ChatGPTやClaude、Geminiといった主要AIを使えば、簡単なアプリなら数分でしっかり動作するものをつくってくれる。 ちょっとした作業を効率化するのに非常に助かるのだが、問題は、悪用するハードルも大幅に下がっていることだ。この結果、詐欺の手口も、AIの進化によって急速に巧妙化が進んでいる。 Claudeを開発・提供しているアンソロピック社が2026年9月、自社のClaudeが悪用された事例を集め、レポートとして公表している。 たとえば、AIをフル活用した、詐欺マッチングアプリの事例だ。マッチングアプリは、容姿の画像や記載されたプロフィールから、魅力的だと思う人物を選び、チャットなどでコミュニケーションができる。しかし、チャットで会話をしている彼女／彼は実はAIだった。 2026年4月にアンソロピック社が確認した事案では、ビデオ通話などを除き、AIが詐欺アプリのサービスの運営に必要な業務の多くを担当していた。 マッチングした相手はAIだった 大手マッチングアプリTinderは、利用者の画像が次々に表示され、興味がある人については右にスワイプ（あり）し、ない人は左にスワイプする（なし）。ユーザー同士がいずれも右にスワイプするとマッチングが成立し、チャットなどでコミュニケーションを取ることができる。このTinderのUIは世界中でバズったのだが、詐欺アプリもTinderに似たUIを採用していたようだ。 この詐欺アプリの運営元は、画像生成に強いAIを使って、プロフィール画像を生成する。この詐欺アプリでは、4700以上のAIペルソナが用意されたという。「あり」をスワイプしたユーザーは、AIペルソナとマッチングが成立する。ユーザーとAIペルソナの会話は、Claudeが担当していたようだ。詐欺グループはAIに対して、自動化されていることを絶対に明かさない、ビデオ通話や写真の要求はかわす、決められた会話の段階を順に進むよう指示していた。 送信するメッセージの量や、マッチングの回数が増えると、アプリ内のコインを購入することになる。マッチングした相手ともっと話したいと思ってコインを買ったユーザーは、実はAIと会話していたということになる。 この詐欺アプリの運営元には、人間の従業員もいて、AIが提示した3種類のメッセージから、1つを選択するのが主な仕事だったようだ。また、SNSでフォローを返すとか、ビデオ通話で話すといった自動化が困難な業務も担当していた。 この詐欺アプリは、スワイプ画面に表示される候補の75%がAIのペルソナで、残る25%がリアルの人間だったという。 AIで声を女性に 台湾の英文メディア、タイペイ・タイムズによれば、AIを使った音声変換をフル活用した事案で、詐欺グループ57人が2026年9月2日に起訴された。 このグループは女性22人の声をAIに学習させ、既存のマッチングアプリでユーザーを待つ。ユーザーとチャットや音声通話でコミュニケーションを重ねるのだが、詐欺グループの会話の担当者の声を、AIで女性の声に変換していた。 ユーザーとある程度親密になったところで、サプリやモバイルバッテリーといった安価な商品を買ってほしいとねだる。これに成功すると、高級ドライヤーやスマホ、生活費や医療費の金銭的な援助と段階的に要求を上げていく。この詐欺グループは2022年から稼働し、2万人を超える被害者から9億台湾ドル（約44億円）を騙し取った。押収品にはディープフェイクを生成するソフトを搭載するPC67台が含まれていた。 警察から電話がかかってきた 本記事はアフィリエイトプログラムによる収益を得ている場合があります この連載の記事 - 第405回 ラピダス、2nm量産まであと1年 政府2.6兆円投資も、民間投資は1676億円にとどまる - 第404回 「使えるパスワードを片っ端から探せ」AI悪用が本格化、世界150超の組織が危機感 - 第403回 子どもに人気のRobloxで「性的搾取」報告が急増 日本の親も知っておきたいオンラインゲームの現実 - 第402回 米国で「暗号資産の規制緩和」が急加速 裏で膨らむトランプ一族のビジネス - 第401回 「米中どちらにつく？」米国、AI陣営の“踏み絵”へ - 第400回 孤立するAnthropic オープンモデルへの支持をめぐり - 第399回 プロ野球も対象に、急成長する「予測市場」 これは投資か、ギャンブルか - 第398回 アマゾン配送を支える物流大手、ステーブルコイン企業に10億円投資のワケ - 第397回 トランプ氏、SNS投稿を月1620万円で販売 金融機関向け有料APIが波紋 - この連載の一覧へ
原文翻译
使用ChatGPT、Claude、Gemini等主流AI，几分钟就能做出一个简单应用并正常运行。用来提升日常工作效率非常方便，但问题在于，恶意利用的门槛也大幅降低了。结果就是，随着AI不断进化，诈骗手法也在迅速变得巧妙。
开发并提供Claude的Anthropic公司于2026年9月汇总了自家Claude被滥用的案例，并发布了报告。
例如，一个全面利用AI的诈骗交友应用。交友应用会根据容貌照片和填写的个人资料，让用户挑选心仪对象，并通过聊天等方式交流。然而，在聊天中和你对话的“她”或“他”，其实是AI。
在Anthropic公司2026年4月确认的案件中，除了视频通话等环节，AI承担了诈骗应用运营所需的大部分业务。
配对对象是AI
大型交友应用Tinder会不断显示用户照片，感兴趣的人向右滑（喜欢），不感兴趣的人向左滑（不喜欢）。双方都向右滑即配对成功，可以通过聊天等方式交流。Tinder的这一界面设计在全球走红，而诈骗应用似乎也采用了类似Tinder的界面。
该诈骗应用的运营方利用擅长图像生成的AI来生成头像。据说这款诈骗应用准备了4700多个AI虚拟人设。向右滑的用户会与AI虚拟人设配对成功。用户与AI虚拟人设的对话似乎由Claude负责。诈骗团伙向AI下达指令：绝不暴露自己是自动化的，回避视频通话和照片要求，按既定对话阶段逐步推进。
随着发送消息量和配对次数增加，用户就需要购买应用内金币。以为买了金币就能和配对对象多聊几句的用户，实际上是在和AI对话。
该诈骗应用的运营方也有人类员工，主要工作似乎是从AI给出的三种消息中选一种发送。此外，他们还负责在社交平台上回关、视频通话等难以自动化的业务。
据说这款诈骗应用的滑动画面中，75%的候选对象是AI虚拟人设，剩下25%才是真人。
用AI把声音变成女性
据台湾英文媒体《台北时报》报道，一起全面利用AI变声的案件中，诈骗团伙57人于2026年9月2日被起诉。
该团伙让AI学习22名女性的声音，在现有交友应用上等待用户。他们与用户反复聊天、语音通话，而负责对话的团伙成员声音，被AI转换成了女性声音。
在与用户建立起一定亲密关系后，他们便央求对方购买保健品、移动电源等低价商品。得手后，再逐步升级要求，索要高级吹风机、智能手机，乃至生活费、医疗费等金钱援助。该团伙从2022年开始作案，从超过2万名受害者手中骗取了9亿新台币（约44亿日元）。查获物品中包括67台装有深度伪造生成软件的电脑。
警察打来了电话
本文可能通过联盟营销计划获得收益。
本连载文章
- 第405回 Rapidus距离2纳米量产还有一年，政府投资2.6万亿日元，民间投资仅1676亿日元
- 第404回 “把能用的密码统统找出来”AI滥用正式化，全球150多个组织感到危机
- 第403回 儿童喜爱的Roblox上“性剥削”举报激增，日本家长也该了解的在线游戏现实
- 第402回 美国“加密资产监管放松”急剧加速，背后特朗普家族生意不断膨胀
- 第401回 “站美国还是中国？”美国逼AI阵营“选边站”
- 第400回 孤立的Anthropic，围绕是否支持开源模型的争议
- 第399回 职业棒球也成为对象，快速增长的“预测市场”是投资还是赌博
- 第398回 支撑亚马逊配送的物流巨头，为何向稳定币企业投资10亿日元
- 第397回 特朗普以每月1620万日元出售社交平台帖子，面向金融机构的付费API引发波澜
- 查看本连载列表
考情考点分析
本文适合作为考研日语、翻译硕士（MTI）或国际新闻类考试的阅读与翻译素材。内容涉及AI技术滥用、跨国诈骗、深度伪造等全球性议题，与“科技伦理”“网络安全”“国际合作”等考研政治、国际关系考点高度契合。命题可能围绕AI诈骗手法、技术伦理、法律监管等角度展开。备考时需掌握AI、深度伪造、诈骗等术语的中日英表达，并关注各国针对AI滥用的立法动态。答题切入点可包括：技术中立性与滥用风险、跨国犯罪治理、平台责任等。
核心考点
文中详细描述了AI被用于诈骗交友应用和变声诈骗，体现技术伦理问题
备考建议：积累AI伦理相关词汇，如“深度伪造”“算法偏见”“技术向善”等，并思考监管对策台湾诈骗集团利用AI诈骗2万余人，涉及跨境作案与司法协作
备考建议：了解国际刑事司法协助、网络犯罪公约等背景，关注各国打击AI诈骗的案例文中提到查获67台装有深度伪造软件的电脑，凸显技术防范需求
备考建议：学习深度伪造检测技术原理，了解平台审核机制与用户教育措施可能命题方向
- 请概括AI在诈骗交友应用中的具体应用方式，并分析其为何难以被用户识破。
- 结合本文，谈谈深度伪造技术对个人与社会可能造成的危害，以及应如何应对。
- 请将文中关于台湾诈骗集团利用AI变声诈骗的段落翻译成中文，注意术语准确与语句通顺。