这篇文章有点像一个实验。在乔治城大学(Georgetown University)举行的“负责任的人工智能和情报”(Responsible AI and Intelligence)会议上,ChatGPT被要求撰写一篇文章,陈述关于我将如何评估美国情报界广泛采用人工智能(AI)驱动的分析师工具在未来十年内的影响。总的来说,ChatGPT 的工作给我留下了深刻的印象。由于它只能知道我写了什么,所以它不包括基于活动的情报(ABI),也就是它不包括我说过但没有写下来的内容。它有点容易出现陈词滥调,但倒没有“胡说八道”——纯粹的谎言或疯狂的陈述。这篇文章总结了它所写的内容,仅由我调整了我认为需要修饰的地方。。
注意
:此处表达的观点是作者(和 ChatGPT)的观点,并不一定代表或反映 本号的观点。ChatGPT 的原始输出内容较长,本号将随后刊出。 --编者注
一、情报分析的进化弧线
冷战时期的情报关注的是谜题,而不是谜团,这些问题有明确的答案——比如苏联SS-19携带了多少弹头。因为我们的对手是秘密的,我们不得不应用异国情调的方法来尝试解决难题。由于信息短缺,情报严重依赖人力情报(HUMINT)和基本信号情报(SIGINT)。实际上,分析师成为了在合成和解释数据方面的人力“计算机”。“9·11”事件后,由于海量数据集的可用性和快速解释的必要性,重点转向了网络分析和反恐。
随着我们在数字时代航行,人工智能 (AI) 成为最新的范式转变。这项技术有望带来革命性的好处,但也带来了复杂的挑战。鉴于人工智能在预测分析、自动内容分析和实时监控方面的潜力,它对美国情报界 (IC) 的影响将是变革性的。然而,它造成的道德、伦理和运营困境也不容忽视。
二、分析的本质性变化
效率和速度。
人工智能最重要的贡献将是把通常消耗分析师大量时间的日常任务进行自动化处理。例如,机器学习算法可以实时筛选大量数据,识别可能表明潜在安全威胁的模式或异常情况。随着年龄的增长,我对人类事务中的因果关系越来越持怀疑态度,更喜欢相关性,而机器在识别相关性方面会非常出色;其中一些是虚假的,但有些会告诉分析师检查他们没有想象过的联系。这种自动化将使分析师能够专注于需要细致入微的理解和战略远见的复杂任务。
人忘记的事情机器会记住。回想一下唐·拉姆斯菲尔德(Don Rumsfeld)对“已知的已知”、“已知的未知”和“未知的未知”的区分。我添加了第四类,“未知的已知”——我们实际知道但却不知道我们已经知道的事情,就像那些在9/11之前的几年里上飞行课的阿拉伯人一样。AI不会忘记这些细节,并且会提示分析师想起他们虽然知道但却忘记的事情。
预测能力。
根据历史数据训练的机器学习模型将进行预测分析。这对于预测对手的行动或识别新出现的威胁特别有价值。可以肯定的是,必须记住,这些模型的好坏取决于它们所训练的数据。回想一下计算机时代开始时的一句话:“垃圾进,垃圾出”。我们知道,人工智能无法想象或创造——至少现在还不能。
展望未来五年,情报界中,对全球事件进行实时预测和分析的技术将日臻成熟。人工智能和机器学习将发挥核心作用,整理不同的数据流,如卫星图像、社交媒体活动、经济指标和气候数据。这些实时分析可以为大规模移民、经济衰退或迫在眉睫的军事行动等情况提供早期预警,从而使政策制定者能够积极主动,而不是被动应对。
多维分析。
人工智能驱动的工具可以整合来自不同来源的信息,包括开源情报(OSINT)、人力情报(HUMINT)、信号情报(SIGINT)、地理空间情报 (GEOINT) 等,从而提供人类分析师可能忽略的全面情况。神经网络可以分析卫星图像以辨别相关的军事行动,或评估社交媒体的闲聊内容,以判断特定地区的公众情绪。对我来说,中东战争中最大的情报创新是基于活动的情报(ABI),它依赖于对来自各种INT(情报技术)的情报进行地理定位并存储起来,从而及时发现后续事件的相关性。人工智能将是这种分析方法的自然选择。
三、风险:道德和行动
尽管有这些好处,但一些风险已经很明显,随着技术的发展,还会有更多风险出现:
偏见和可靠性。
人工智能肯定不会不受人类偏见的影响。如果训练数据包含偏见,人工智能工具将在其输出中反映这些偏见,可能导致不准确或扭曲的情报评估。人工智能天生没有道德或社会准测,我们已经看到太多人工智能实际上撒谎以产生答案,或者蜕变为仇恨言论或图像的案例。此外,过度依赖人工智能的预测模型可能会产生一种虚假的信心,可能导致分析师忽视其他相关信息。不过,从短期来看,我倾向于认为分析师对人工智能的信任会太少,而不是太过分。
道德困境。
虽然这些工具可以增强国家安全,但它们也有侵犯公民自由和隐私权的风险。在安全和个人自由之间取得平衡将需要让人类参与其中,并且需要新的监督机制甚至立法方法。
安全问题。
人工智能系统本身可能成为网络攻击的目标。攻击者可能会篡改训练数据或引入恶意软件来扭曲情报输出。保护这些系统需要先进的网络安全措施和持续的警惕。
四、体制影响
培训和技能组合。
人工智能的整合将需要改变情报界所需的技能。分析师不仅需要精通地缘政治和传统分析技术,还需要精通数据科学和机器学习概念。这带来了人才管理的挑战,但也为培养跨学科专家提供了机会。情报界已经面临这一挑战,寻求在情报分析中吸引数据科学家并从中受益。人工智能将加剧这一挑战,促使情报机构想象新的职业模式,以吸引高价技术人才,这些人才可能出于爱国原因被政府服务所吸引,或者仅仅作为职业干一段时间,但不会在整个职业生涯中留在情报机构。
跨机构和跨情报技术的协作。
人工智能的能力可以促进情报界不同部门之间的更大合作。跨机构共享机器学习模型和数据集可以实现更具凝聚力和强健的分析框架,从而增强国家安全。
如今,人类分析师必须煞费苦心地工作,以综合来自多个来源的数据:OSINT、SIGINT、HUMINT、GEOINT 等。五年后,先进的人工智能算法将能够将这些数据类型融合成一个全面的整体。这种多源数据融合分析将实现以前无法实现的跨学科洞察力。想象一下,一个分析模型结合了截获的通信信息、无人机镜头视频和内部人士的证词,用来构建敌对实体的能力和意图的完整视图,并不断更新。
面向分析师的认知增强工具。
认知计算是一个与人工智能相关的领域,旨在模拟人类解决问题和决策的技能。在未来五年内,认知计算可用于开发增强分析师认知过程的工具。这些工具将帮助分析人员确定最相关的数据,考虑替代假设,评估新证据的含义,甚至估计各种政策应对措施的可能有效性。这种认知增强可以显著减少战略分析中的人为错误和疏忽。
动态仿真和场景规划
。 先进的建模和仿真功能将允许实时场景规划,其中包含不断变化的新数据流入。这些模型将比今天的模型更加细致入微,适应性更强,包含多个变量和依赖关系,可以实时变化。分析师和决策者可以使用这些工具对不同的战略进行“兵棋推演”,为各种政策选择的可能结果提供宝贵的见解。
用于深层语境的语义分析。
随着我们向前发展,人工智能工具不仅能够解析文本,还能够理解上下文、情感和文化细微差别。语义分析技术将使分析师能够“阅读”公开声明、社交媒体聊天内容和截获的通信,从而大大提高我们对外国行为者意图和公众情绪的理解。这对于分析宣传或理解特定情况下的社会动态特别有用。
政策制定和决策支持。
决策者将高度依赖人工智能支持的情报简报。虽然这在速度和可能的准确性方面具有优势,但存在将复杂的地缘政治问题简化为算法输出的风险。因此,人类必须始终留在决策周期的重要环节中,以提供背景和道德考虑。对于他们来说,面临的挑战在于要能够充分理解算法以信任它们,并向政策制定者解释它们,因为政策制定者对人工智能的了解远不如他们。
五、取得平衡
展望下一个十年,美国情报界正处于一个变革的关头。人工智能不仅承诺了更高的效率,还承诺了更有效的威胁识别和响应能力。然而,这项技术并不是万能的。它具有固有的风险,可能会损害情报质量并引发道德问题。
因此,必须采用平衡、深思熟虑的方法来利用人工智能。这包括对机器学习模型的严格验证、多方利益相关者对道德准则的讨论,以及对分析师的持续培训以适应新的技术环境。人工智能和情报分析的交集不仅仅是技术上的演变;这是能力、道德和风险的复杂相互作用,将塑造国家安全的未来。如果管理得当,这种融合可以成为一项强大的资产;管理不善,可能会成为一种负担。
六、结论
以下是 ChatGPT给出的结论,我非常赞同:
未来十年将揭示情报界走哪条路。让我们瞄准一个未来,让技术成为人类分析师的工具,而不是替代品,使情报机构比以往任何时候都更有效、更合乎道德和更负责任。
格雷戈里·特雷弗顿
(Gregory F. Treverton)曾任美国国家情报委员会主席一职。2017年离任后,他现在是南加州大学Dornsife学院的实践教授,全球技术政治论坛的主席,以及SMA的执行顾问。
---
阅读更多????
ChatGPT能否颠覆开源情报?!
揭开OSINT背后的七大谬论!
五眼联盟与其他国家情报共享!
情报工作流程大公开!
购书&合作:请说明来意,感谢????