网络空间的“摄像头”正在监视着我们？DPI技术保障AI安全
01
网络可视化：网络空间的摄像头
（1）网络可视化基本定义
网络可视化是指利用人类视觉感知系统，将网络数据（包含但不限于网络的物理链路、逻辑拓扑、运行质量、协议标准流量内容、用户信息、承载业务等信息）以图形化方式展示出来，从而对网络结构数据形成快速直观地解释及概览。
狭义而言：网络可见性是收集和直接分析流经网络的单个流量数据包的能力。
广泛而言：网络可见性是指借助网络可见性工具了解网络内和流经网络的一切情况。
（2）网络可视化基础功能
网络可视化的基础功能为增强对网络数据的主动管理，即流量来源进行监管、分析（识别、统计、展现、管控)）与挖掘实现网络管理、信息安全与商业智能。
网络管理：主要包括应用程序监控、优化流量传输性能等。
信息安全：监控网络流量中是否存在恶意行为和潜在威胁分析网络攻击路径等。
商业智能：了解业务流量发展趋势、指引业务转型等。
02
大模型时代：信息交互加剧安全需求
大模型应用与交互对网络流量的潜在影响
大模型的广泛应用和持续迭代带来网络流量的快速增长，以openAI和New Bing为例：
OpenAl：据SimilarWeb数据，自ChatGPT发布以来，OpenAl月访问量迎来爆发式增长，自2023年2月份以来已连续5个月保持10亿以上月访问量，其中2023年6月份的月访问量达17亿，平均用户访问时长为04分25秒；
New Bing：据路透社数据，2月53至3月11日期间，接入大模型的新必应APP全球下载量较上月增长约8倍，而对比同期Googl下载量受到一定影响不增反降。
大模型应用与交互的增加扩大网络空间的风险暴露
（1）网络拥堵问题
在过去的一些案例中，OpenAl曾面临网络拥堵问题，这主要是由于其大型模型应用和交互式服务引起的。当用户访问量激增时，服务器可能因无法承受巨大的负载而崩溃，导致服务中断，突显出大模型对网络空间带来的潜在影响和风险，故而需要采取措施优化服务器资源和网络架构，以确保可持续的稳定性与可用性。
（2）API安全问题
企业接入大模型后的API接口面临着数据泄露和滥用的风险。大模型的AP]接口可能涉及大量用户数据和敏感信息，如果这接口没有得到妥善的保护和权限控制，黑客有可能通过不当手段获取这些数据，导致用户隐私泄露、个人信息被滥用等风险。
常见的数据泄露风险有三种：
黑客可能通过利用API接口中的设计缺陷、逻辑漏洞或者输入验证不严格等漏洞来获取数据;
如果API接口的数据传输没有进行加密，黑客可能截取网络传输过程中的数据包，并从中获取敏感信息；
黑客可能还会采取社会工程学手段，通过欺骗、诱骗或利用内部人员的不慎来获取API接口的访问权限或者敏感信息。
（3）数据安全问题
模型可能存在认知偏差，被特定语句诱导而泄露敏感信息。大模型开发者和使用者需要识别并降低相关风险。如果模型训练和部署未考虑数据合规与安全，则交互过程中获得的数据可能被非法保存或利用。为防止数据泄露，摩根大通和星已经禁止员工使用ChatGPT。
如果对大模型使用不当或模型本身存在漏洞，都可能导致信息泄露。为降低风险，企业需要进行安全设计，确保用户数据收集和存储合法合规，访问控制到位，并进行渗透测试确保系统安全。
（4）网络空间意识形态问题（如政治敏感问题）
大模型应用与交互的增加可能使得网络空间中的意识形态问题进一步发散，特别是涉及政治敏感话题。大模型可能因训练数据的偏见而传播不准确或片面的信息，导致信息泡沫和极化。在部分政治敏感问题上，模型的倾向性可能引发争议，并对公共舆论和社会稳定性产生潜在影响。故而必须加强对模型的监管和透明度，以确保网络空间的公正与平衡。
解决大模型应用及交互风险的思路
传统的安全解决方案偏向于事后防御，而DPI技术可以协助实现防护与干预向事前和事中转移，提高防护效率。通过DPI技7可以深入解析数据包，检查其内容和协议信息，从而实现对网络流量数据的实时监测：
通过对模型应用与交互过程进行动态监测，可以及早发现潜在的网络拥堵问题、API安全隐患，防止黑客攻击和数据泄露风险。同时，这种实时监测有助于保护用户的隐私，确保大型模型应用合法获取数据，并避免非法或滥用用户信息的网络空意识形态情况发生。
DPI监测结果可以为安全团队提供宝贵的信息，改进安全策略和防御措施，指引业务流量预测和管理，提升网络安全性。
DPI技术可以与现有网络安全技术手段结合应用。如与入侵检测系统和访问控制策略结合，可实现对大型模型交互与应用动态、实时的监测，从而快速发现异常活动、未经授权的访问尝试和数据泄露行为。
报告来源 | 浙商证券
编辑 | 居居手
关于BFT白芙堂机器人
BFT（白芙堂）机器人是智能机器人一站式服务平台，能为客户提供机器人选型、培训、解决方案、在线采购、本地化定制等高性价比的一站式服务。平台产品涵盖协作机器人、工业机器人、移动机器人、SCARA机器人、服务机器人、机器人夹爪、三维机器视觉设备、3D工业相机等十余种品类，实现机器人产业链产品全覆盖，并广泛应用于工业制造、实验室自动化、智慧零售、教育科研等行业。平台已与国内外知名机器人企业达成战略合作，并拥有专业的工程师团队，能为客户提供算法及系统定制、职校教学、科研实验室平台搭建、机器人展厅定制等服务，支持一对一技术支持和二次开发。
