现在，人工智能（AI）可不光是个热门话题那么简单了。它简直无处不在，从像ChatGPT这样的聊天机器人，到人工客户服务代理，再到供应链规划、医疗方案评估，甚至还能创作在线博客、音乐、艺术作品和图像等这些有创意的东西。
全世界各地，各个组织都在用AI来提升决策质量、客户服务水平和个性化程度。AI能给我们提供新见解、发现新机会，还能催生新产品和新服务。不过，虽说AI特别厉害，但它这么快就渗透到我们生活的方方面面，也带来了一些重要且不断变化的风险。
随着组织越来越依赖外包的产品和服务，AI的快速发展就意味着，第三方风险管理者得能识别、评估、管理和减轻这个新出现的风险领域，但这事儿说着容易做着难。毕竟，AI这个词涵盖的范围太广了，包括了各种各样的技术、应用场景和程序。
所以我们写了这本AI入门书，帮第三方风险管理者从基础开始了解人工智能，这样他们就能更好地在第三方风险管理（TPRM）实践中考虑到各种AI产品、服务和风险了。
什么是人工智能？
大家都爱叫它AI，它是计算机科学里头的一个小部分，主要就是想做出些能干那些得靠人脑子才行的事儿的系统。像识别图片、听懂说话、做决定，还有翻译语言这些，都是AI能干的事儿。
虽然AI和自动化都是让机器去干以前得靠人去做的活儿，但它们俩可不是一回事儿。自动化呢，就是让机器照着提前编好的规矩去做事；而AI呢，是让机器能从数据里头学东西，还能根据学到的东西去适应变化。
AI两种类型
得知道两种主要的AI类型。一种是狭义AI，这种AI是专门被编好程序去做特定的事情的。还有一种是通用AI，这种AI系统就像人一样，啥都能懂、能学、能适应，还能在各种任务上用上它学到的知识。咱们接着往下聊。
狭义AI（或者你也可以叫它弱AI）：狭义AI就是专门为了干一件事儿而被造出来的AI系统。比如语音识别，就像Siri那样；还有推荐系统，比如Amazon的；再有就是图像识别系统，像Face ID或者Google Lens这样的。狭义AI只能在特定的条件下，干它被设计出来干的那一件事儿，它没法理解、学习或者用到它干的那件事儿以外的知识。
虽然用了“弱”这个词，但并不是说这些系统就不行。这个“弱”只是说它们能干的事情有限。其实，狭义AI特别厉害，我们平时用的很多AI应用，都是靠狭义AI撑起来的。
通用AI（你也可以叫它强AI）：通用AI就是那种能跟人类一样，啥都能懂、啥都能学、啥都能适应，还能在各种任务上用上它学到的知识的AI。跟只能干一件事儿的狭义AI不一样，通用AI能把学到的东西从一个地方用到另一个地方，碰到新情况也能自己拿主意。
到现在为止，通用AI还只是个理论上的想法，还没造出来呢。要是通用AI真能做出来了，那可就厉害了，说明咱们造出了能跟人一样聪明的机器，啥都能干。
AI概念和术语
- 机器学习 （ML）： 这是一种用于构建和训练 AI 模型的技术。这些模型不是显式编程的，而是在大量数据上进行训练，学习识别模式并根据这些模式进行预测。
- 人工神经网络 （ANN）： 从人脑中发现的复杂神经网络中汲取灵感。这些计算系统可以学习并逐渐提高其性能，使它们能够识别模式并做出明智的决策。
- 深度学习：使用具有多层（因此“深度”）的神经网络的 ML 子集。此技术对于复杂的图像和语音识别任务特别有效。
- 自然语言处理 （NLP）：这教会 AI 系统理解、解释和生成人类语言。这项技术是 Siri 或 Alexa 等聊天机器人和语音助手的幕后推手。
- 计算机视觉：一个专注于使 AI 能够解释和理解视觉数据的领域。它用于面部识别系统、自动驾驶汽车和图像编辑软件等应用程序。
- 生成式 AI： 这是一种主要由于 ChatGPT 等系统而流行的人工智能系统。为了响应用户的提示，它可以从文本、图像、语音和其他媒体生成任何内容。它使用 ANN 来识别现有数据中的模式和结构，以生成新内容。
使用 AI 的主要行业
- 医疗保健越来越多地利用 AI 来改善患者治疗效果、降低成本并提高运营效率：
- 疾病诊断：AI 算法可以分析医学图像，以在早期发现癌症等疾病。
- 个性化医疗：AI 分析患者数据以制定个性化的治疗计划。
- 药物发现：AI 可以简化药物发现过程，比传统方法更快地识别潜在化合物并预测其效果。
- 金融机构使用 AI 来增强决策、改善客户服务和检测欺诈活动：
- 风险评估：AI 模型用于预测风险并为贷款决策提供信息。
- 欺诈检测：AI 系统可以分析交易模式以识别潜在的欺诈活动。
- 顾客服务：许多金融机构使用 AI 驱动的聊天机器人来提供高效的客户服务。
- Retail 使用 AI 来增强客户体验、简化供应链运营和个性化营销：
- 个性化购物：AI 算法分析客户数据以提供个性化的产品推荐。
- 库存管理：AI 用于预测需求和优化库存水平。
- 顾客服务：AI 聊天机器人可以处理各种客户查询，提高效率和客户满意度。
- AI 正在彻底改变制造生产线、质量保证和预测性维护：
- 质量管理： AI 系统可以实时分析来自生产线的图像，以检测和纠正缺陷。
- 预测性维护：AI 可以预测设备故障，从而减少停机时间和维护成本。
- 供应链优化：AI 预测需求并优化物流，提高效率并降低成本。
- 在农业中，AI 变得越来越重要，可以提高产量、优化资源并提高可持续性：
- 精准农业：AI 系统分析来自卫星和传感器的数据，以提供有关作物健康、浇水需求和病虫害检测的可行见解。
- 自动化机械：AI 驱动的无人机和自动驾驶拖拉机可以执行播种、喷洒和收割等任务。
- 在教育领域，AI 正在改变行业，实现个性化学习体验并自动执行管理任务：
- 个性化学习：AI 系统分析个人学习模式并调整内容以提高学习成果。
- 管理任务的自动化：AI 可以自动执行评分和调度等任务，使教育工作者能够将更多时间花在教学上。
使用 AI 或与第三方签订合同来提供 AI 驱动的产品或服务之前，您应该了解所涉及的风险：
- 数据隐私风险：AI 系统依靠数据蓬勃发展，这些数据通常是个人数据或敏感数据，但如果您不知道 AI 系统使用了哪些数据，则可能会使您的组织面临网络安全事件或监管罚款的风险，例如：
- 数据保护措施不足可能会导致数据泄露，从而造成财务和声誉损失。
- 如果 AI 的设计和部署不严格遵守法规，例如欧盟的《通用数据保护条例》，则 AI 可能会无意中侵犯隐私法。组织还需要遵守许多州隐私法。
- 偏差和公平性风险：如果使用有偏差的数据进行训练，AI 系统可能会无意中延续或放大偏见，例如：
- 有偏见的 AI 做出的决策，从招聘到贷款审批，可能会不公正地使某些群体处于不利地位，从而导致潜在的法律和声誉影响。
- AI 系统中的偏见会破坏其有效性和用户接受度。
- 可解释性和透明度风险：深度学习等高级 AI 模型的决策过程可能尚不清楚。这些算法可能难以理解和向他人解释。这可能会导致：
- 用户不了解 AI 系统如何做出决定，从而导致不信任并阻碍采用。
- 缺乏可解释性，这会带来法律风险，尤其是在决策必须可审计的受监管行业中。
- 安全风险：与所有数字系统一样，AI 系统容易受到网络攻击。黑客很快就了解了这些系统以及他们如何滥用它们。它可能导致更复杂的新型恶意软件和网络钓鱼攻击。例如：
- 对抗性攻击者可以操纵 AI 输入以产生误导性结果。
- 受感染的 AI 系统可能会被恶意用于执行攻击或泄露信息。
- 知识产权风险：涉及 AI 知识产权的问题是一个重大问题，例如：
- 盗用专有的 AI 技术，在没有适当保护的情况下可能会发生。
- 在确定 AI 生成的内容或发明的所有权时，可能会出现知识产权风险。
- 监管合规风险：鉴于数字服务的全球性质，遵守现有和不断发展的 AI 法律法规是一项复杂的挑战。各国处理和寻求立法 AI 规则和法律的方式不一致意味着使用 AI 产品或服务的组织的复杂性。欧盟已经通过了《人工智能法案》（Artificial Intelligence Act），其中有全面的法规来管理人工智能的使用方式。请考虑以下事项：
- 不同司法管辖区的 AI 规则存在差异，尤其是在隐私和偏见方面，如果不遵守，可能会导致严厉的处罚。
- AI 法规的形势正在迅速变化，需要时刻保持警惕和适应能力。
- 供应商业务连续性风险：如果供应商的运营面临中断，依赖第三方 AI 供应商可能会带来风险。例如：
- 如果 AI 供应商倒闭或服务中断，组织的运营可能会中断，尤其是在组织依赖 AI 执行关键业务功能时。
- 供应商政策或所有权的变化也会影响其 AI 产品和服务。
- 声誉损害：执行不力的 AI 会对组织的声誉产生负面影响并损害您的品牌。可能会出现以下情况：
- 不准确或无效的自动化客户服务渠道或代理可能会让客户感到沮丧并降低他们的满意度。
- 对 AI 解决方案的过度依赖消除了客户互动中的“人为因素”，这通常会导致返工、问题解决率降低和对公司的不信任。
重新认知第三方使用AI带来的风险
