研究发现：GPT-4和Llama 2仅从日常对话就能推断用户职业等敏感信息

文章预览

人工智能给黑社会和犯罪分子带来了巨大的生产力提升。 安全公司 Trend Micro 的高级研究员文森佐·齐坎加利尼（Vincenzo Ciancaglini）表示，生成式人工智能提供了一系列新的、强大的工具，使恶意行为者能够以前所未有的效率在国际层面上实施犯罪。 齐坎加利尼说，大多数罪犯“不是每天生活在黑暗的地下室里谋划坏事，他们中的大多数人都是普通人，也要工作”。 2023 年，我们看到了 WormGPT 的兴起和衰落。这是一个建立在开源模型之上的人工智能语言模型，根据恶意软件相关数据进行训练，旨在帮助黑客实施网络攻击，而且没有道德规则或约束。 但 2023 年夏天，在该模型开始引起媒体关注后，开发者将其关闭了。从那时起，网络犯罪分子大多停止了人工智能模型的开发，转而选择使用现成的、可靠的人工智能工具。 齐坎加利尼解释说，这是因为 ………………………………