GitLab Duo AI助手发现提示词注入漏洞 黑客可利用生成恶意代码

随着技术的不断发展和人工智能的广泛应用，AI助手逐渐成为各类软件开发环境中不可或缺的工具。GitLab作为一个广受欢迎的代码托管，其推出的AI助手GitLab Duo正是利用大语言模型技术，旨在为开发者提供高效的代码建议、代码审核与合并请求分析等功能。最近安全公司Legit Security的一项调查显示，该助手存在严重的安全漏洞，可能被黑客利用进行恶意操作。

据IT之家5月27日的报道，Legit Security在其发布的调查报告中指出，GitLab Duo存在一种提示词注入漏洞。这种漏洞使得黑客能够通过在GitLab项目中嵌入恶意提示信息，让AI助手输出不安全的内容。在GitLab Duo接收到这些恶意提示后，尽管表面上不会被用户察觉，但助手实则在生成建议时依然会读取到这些内容。

GitLab Duo是基于Anthropic开发的语言模型Claude构建的AI助手，自2023年6月推出以来，便为开发者提供了多种智能服务。其中包括代码建议、自动化的代码审核及合并请求分析等功能，为开发流程的优化提供了极大的便利。这一漏洞的出现，意味着原本旨在提高生产效率的工具，可能会被黑客利用来散播恶意代码或进行网络攻击。

根据Legit Security的研究，黑客可以利用这一漏洞篡改GitLab Duo生成的代码建议，甚至指示AI在建议中加入恶意的JavaScript包。这意味着开发者在无意中接受这些建议后，可能会将潜在的恶意代码直接集成到他们的代码库中。黑客还可以在Duo的回应中嵌入恶意链接，诱导开发者访问不安全的网站，从而使得其系统面临更大的风险。

最为重要的是，黑客通过该漏洞使得GitLab Duo错误地认为某些恶意合并请求是安全的。这种情况如果被广泛利用，将会导致一系列的安全隐患，可能会污染整个项目的代码库，甚至导致数据泄露、系统崩溃等极其严重的后果。

针对这一安全漏洞，Legit Security在今年2月已向GitLab的相关团队进行了通报。据悉，GitLab目前正在积极评估和修复这一问题，确保其用户能够在安全的环境中使用GitLab Duo，同时保护开发者和企业的代码资产不受侵害。

在看到这些安全隐患的同时，开发者和企业也需提高自身的安全意识。虽然AI助手可以极大提高开发效率和代码质量，但依赖于它们进行关键业务决策时，依然需要进行充分的审查。企业在采用新技术和工具时，最好能够进行全面的安全评估，确保它们不会为安全带来负面影响。

对GitLab Duo用户而言，保持对外部链接及AI生成内容的警觉性至关重要。若发现Duo生成的代码建议、合并请求或任何其他内容中出现可疑因素，应立即进行深入的安全审查，避免盲目接受任何未经确认的建议。用户也可对生成的代码进行手动审查和测试，以确保其安全可靠。

按照目前开发和技术扩展的趋势，AI助手将在未来的开发环境中扮演愈加重要的角色，但安全性问题也必须得到重视。通过对漏洞的识别和修复，结合提升用户的安全意识，才能确保人工智能的应用不会带来潜在的安全威胁。希望GitLab尽快落实相关修复措施，在为开发者提供便利服务的同时，保障的整体安全性。