【资料图】

新华网北京8月3日电（刘桔 吕昕）为应对人工智能“辅助”诈骗案件，近期，北京科技大学索行幻AI智觉实践团的大学生们在为期两周的暑期社会实践中开发出一款名为“诈止AI”的防AI诈骗小程序。

在本次暑期社会实践中，北京科技大学索行幻AI智觉实践团队的大学生进行了充分的线上调研，了解AI诈骗的手段与演变过程。同时，他们走出校园，走进社区，与市民面对面交流，了解市民对AI诈骗的认知情况。为了让AI科技更接地气，他们还在校园内组建了AI技术与科普研究会。

图为团队成员走出校园，在北京街头进行“街采”

实践团队队长姜证朗介绍，在线上调研和线下走访中，他们亲眼目睹了AI换脸、AI合成声音等技术被用于电信诈骗的危害。特别是在与北京市公安局海淀分局双泉堡派出所民警的交流中，团队成员深切感受到预防AI诈骗的重要性与紧迫性，他们决定开发一款防AI诈骗产品，用自己所学助力防范电信网络诈骗。

图为团队成员与双泉堡派出所民警交流。

实践团技术副队马幸天介绍，在长亭科技、瑞莱智慧等公司专家的指导下，他们团队开发出了一款名为“诈止AI”的微信小程序。这款小程序包括AI换脸识别检测和知识科普等功能。针对不法分子使用AI换脸技术进行的诈骗，比如通过AI换脸技术冒充亲友、通过微信视频通话骗取对方信任等，用户只要上传手机相册视频或者使用手机拍摄一段视频，这款小程序就可以识别对方是否换脸，从而实现保护用户财产安全的目的。

据悉，除了视频识别检测版本外，北京科技大学的这个大学生团队已经完成小程序文本、声音检测的设计规划，实时监测功能正在开发中。马幸天说，小程序后端使用了GenConViT算法，在检测AI换脸视频上具有较高的通用性和准确度。“我们不断尝试新的技术手段，优化我们的小程序，以提高其检测换脸样本的准确性和通用性。”