生成式人工智能安全：如何保持聊天机器人的健康并保护...

munnafhossain43

每个人都在谈论人工智能。从 ChatGPT 到每天涌现的无数其他生成式人工智能工具，我们总是被告知抓住人工智能是保持领先的关键。但在兴奋之余，重要的是不要忽视潜在的安全风险。

我们正在将人工智能集成到我们的浏览器、电子邮件甚至文件系统中，将敏感的个人和商业数据委托给它。这种便利是有代价的——网络攻击和数据泄露的风险增加。

在这篇博客中，我们将研究生成人工智能对数据安全的影响以及减轻潜在风险的实用策略。

生成式人工智能安全趋势和统计数据
我们先看一下统计数据。

麦肯锡报告称，三分之一的组织已在至少一项业务功能中使用 GenAI 工具，预计该市场将在 2023 年至 2030 年间呈指数级增长。截至 2023 年底，该市场规模略低于 450 亿美元，几乎是其规模的两倍到 2022 年。这种每年近 200 亿美元的增长预计将持续到本十年末。

然而，随着 GenAI 的广泛使用，人们对其安全影响的认识也不断增强。 Menlo 安全报告显示，超过一半 (55%) 的生成式人工智能输入包含敏感的个人身份信息。这凸显了如果没有采取足够的安全措施，则可能会出现数据泄露和隐私侵犯的情况。

Immuta 的研究结果进一步强调了人工智能采用与安全准备之间的脱节。虽然 88% 的数据专业人员表示他们的员工正在使用人工智能，但 50% 的人承认他们组织的数据安全策略未能跟上其快速发展。对人工智能提示的敏感数据泄露的担忧是显而易见的，56% 的受访者将其视为他们最关心的人工智能问题。

展望未来，Gartner 预测，到 2027 年，总网络攻击的 17% 将涉及生成式 AI。与此同时，到 2025 年，GenAI 将引发保护其安全所需的网络安全资源激增，导致安全软件支出增加 15%。

这些统计数据强调需要采取主动安全措施来保护敏感数据并减轻与人工智能采用相关的风险。


使用 Cognism · 2. 使用程序扩展 · 使用 Google 搜索 高管电子邮件列表 管理员 · 5. 冷却组织 · 6. 在 Twitter 上发送 DM 您可以使用组织网站免费找到总统电子邮件地址。 LinkedIn、Google 搜索、行业注册中心，使用这些社交媒体交易勘探工具（例如 LeadIQ、LinkedIn、Google Look 和组织网站）来查找主管的电子邮件地址。


微软聊天机器人事件

供应链漏洞
GenAI 系统的复杂性通常涉及集成第三方组件或依赖外部数据源，这会产生潜在的供应链漏洞。如果这些组件或来源中的任何一个受到损害，整个 GenAI 系统都可能面临风险。

例如，聊天机器人使用的第三方库中的漏洞可能允许攻击者获得未经授权的访问或注入恶意代码。


spaCy 库泄露

敏感信息披露
员工在与 GenAI 工具交互时可能会无意中暴露敏感信息。例如，将机密客户数据粘贴到聊天机器人提示中可能会导致未经授权的访问或泄露。

类似的风险也适用于其他生成式人工智能应用程序，例如那些帮助您编写代码的应用程序，这可能是一种风险。如果开发人员不小心在向人工智能发出的请求中包含机密代码片段或专有算法，这些敏感信息最终可能会被人工智能学习，然后暴露给其他人，甚至更糟糕的是，暴露给黑客。


三星事件

幻觉和题外话
GenAI 模型有时会“产生幻觉”，或者对给定的提示生成完全捏造的或不相关的响应。如果依赖它来制定关键决策，可能会导致错误信息、混乱，甚至有害的后果。


谷歌巴德的错误

什么是影子人工智能？
影子人工智能是指在组织内的应用程序中未经授权使用人工智能 (AI) 工具。

如何降低 GenAI 安全风险
我们探索的例子强调了 GenAI 的潜在陷阱，但不要气馁。您可以通过主动实施强有力的安全措施和负责任的 AI 实践，自信地发挥 GenAI 的变革力量。

这是为了取得平衡——获得人工智能创新的好处，同时保护您的宝贵资产并维持客户的信任。

面对日益增长的 GenAI 安全威胁，主动、多层次的方法至关重要。以下是一些有助于保护您的数据、系统和声誉的基本策略：

1、加强安全意识和培训
为您的员工提供安全处理人工智能环境的知识。提供广泛的培训，教他们如何安全地使用 GenAI 工具、识别网络钓鱼诈骗以及避免与聊天机器人共享敏感数据。帮助您的团队培养验证信息、发现深度伪造品和识别错误信息的技能。

2. 优先考虑数据安全和隐私
实施强有力的访问控制，以确保只有经过授权的个人才能