总结：人工智能迫切需要用户体验。为什么？人工智能道德立法强调人工智能需要进行调整，以保持人工智能用户体验与用户的任务流程相关。生成式人工智能将需要一种以人为本的方法，默认情况下是道德的和包容的。
为什么人工智能迫切需要用户体验？85% 失败？
您可能已经看过这个统计数据：
85% 的人工智能 (AI) 和机器学习 (ML) 项目未能为业务带来回报。
造成高失败率的原因包括范围定义不明确、培训数据不良、组织惯性、缺乏流程变革、任务蔓延和实验不足（福布斯、Gartner 公司估计）。
然而，值得注意的是，这些估计是在生成式 AI 之前做出的，生成式 AI 于 2023 年初广泛发布（ChatGPT 等）。尽管如此，通过从最近的过去吸取教训，我们可以更好地为现在和不久的将来做好准备。
2017 年UX 社区的一项研究揭示了AI 和 UX的另一个问题：UX 专业人士表示，他们没有参与机器学习 (ML) 项目，或者没有准备好应对“隐形”界面原型设计的挑战。更糟糕的是，用户体验设计师在项目结束时才被邀请——此时影响积极的用户体验结果为时已晚。
[UX 设计师] 描述了制作 ML 原型、表达 ML 想法的困难，并指出设计师需要与熟练的技术人员合作。一位人士指出，“机器学习很难原型化。机器学习需要高技能的合作者，而许多公司只能雇佣‘温暖的人’。” 此外，另一位受访者表示，“……制作包含机器学习的交互式原型很困难（尚未找到一种简单的方法来做到这一点）”，另一位受访者表示，用户体验设计师会做出诸如“……输入进来”之类的陈述。 …奇迹发生了…您所有的业务需求都得到满足！” 显然，为了有效地利用机器学习作为设计材料，设计师目前认为协作至关重要。
显然，工程和用户体验团队之间迫切需要围绕人工智能体验进行早期协作。但这不仅仅是创造相关且有吸引力的用户体验。这是关于安全的。
确保您的 AI 安全，否则将面临法律风险。
中国、美国和欧盟于 2023 年底签署的最新人工智能法规被称为《布莱奇利协议》。它阐明了人工智能的未来方向：
“[人工智能将]以人为本、值得信赖且负责任。” 新国际协议的重点是人工智能安全：
“这些人工智能模型最重要的功能有可能造成严重的、甚至是灾难性的伤害，无论是有意还是无意。”
因此，所有人工智能项目都应该关注用户体验和人工智能社区所说的命运（公平、责任、信任和道德），这是有道理的。微软有一个专门研究 FATE 的小组。
Microsoft FATE 研究人员最近的一项研究（2023）发现了与上述早期研究几乎相同的问题：用户体验人员需要参与人工智能工作，并且存在挑战：
我们的研究强调了用户体验设计师在负责任的人工智能中可以发挥的关键作用，并呼吁通过模型透明度和询问来支持他们对人工智能局限性的理解。
帮助用户从AI交互设计中获得更多收益
Zendesk 的 2023 年 CX 趋势报告 发现，消费者清楚地了解他们想要从人工智能和客户服务交互中获得什么：
消费者希望人工智能能够创造更加个性化和有效的客户支持。例如，人工智能可以根据消费者之前的购物习惯来挑选服装。大约三分之二的消费者愿意分享更多数据以获得更丰富的人工智能体验。
另一方面，如果人工智能/聊天机器人无法提供更个性化的体验，大多数消费者将不太愿意使用它。
然而，另一项针对年轻人的研究发现，人们对隐私用户体验的担忧有所增加：
62% 的 18-24 岁人群“对组织如何将他们的个人数据用于人工智能表示担忧。” （思科研究2023）。
消费者认为，人工智能应该表现出同理心。大约十分之七的人认为人工智能应该正确理解并回应他们的情绪和感受。
随着人工智能实施呈指数级增长，用户体验问题必须得到解决。
根据 Salesforce 2023 Connected Shopper 研究，在电子商务中，人工智能的采用呈指数级增长：
*92% 的零售商表示，他们对人工智能的投资比以往任何时候都多，以改善购物体验
*17% 的购物者表示，他们使用生成式人工智能来获取产品购买的灵感。
人工智能解决方案开发中的用户体验意味着与用户的需求、愿望和行为产生共鸣。所有的交互设计都来自于这种尽职调查活动。用户体验专业人员可以通过了解当前行为的复杂性（用户和预先训练的语言模型）来设计无缝融入用户生活的人工智能解决方案。这些努力应该增强人工智能的用户体验，并默认安全性和包容性。
Meta 即将在其平台上释放生成式人工智能体验。为了避免下游问题，例如不良用户体验造成的公共关系，他们进行了八个月的对抗性测试或红队：
对于 Meta 最新推出的 AI 聊天机器人，他们花了 6,000 小时对模型进行红队调整，以发现有问题的用例……（Alex Heath，The Verge， 2023 年 9 月 27 日）。
为什么现在要为人工智能提供用户体验？
首先，你要避免缺乏实用价值的人工智能功能。随着市场充斥着一系列人工智能驱动的产品和服务，为求新奇而添加人工智能功能的诱惑可能很诱人。
接下来，至关重要的是消除人工智能数据集训练的偏差或提供平衡机制以消除不良、不相关或有偏见的结果或输出。ChatGPT 中显着的用户体验功能之一是反馈 > 自动生成结果交互。首先，你提供反馈。接下来，它会奖励您一个替代结果。这种交互是独一无二的，不同于迄今为止创建的任何用户体验。
最后，用户访问当前一代生成式人工智能工具的方式缺乏基本的可用性。问题包括注册（想想 MidJourney）、登录或重新访问该工具（例如 Bing DALLE-3）、缺乏搜索（ChatGPT）等等。不要忽视这些新手可用性错误，否则它们会影响您的用户采用。
未来最大的挑战
最大的挑战之一是建立与用户生活的相关性。更糟糕的是，在没有强大的用户体验策略的情况下集成人工智能可能会导致用户期望与人工智能系统的实际功能之间的脱节。用户可能对您的人工智能抱有过高的期望，期望解决方案能够直观地理解他们的需求并轻松提供个性化体验。当这些期望未能得到满足时，用户可能很快就会失去对人工智能驱动的解决方案的信任，从而导致怀疑并不愿采用未来的进步。
除了技术社区之外，重新审视人工智能工具并使其成为用户工作挑战或生活事件中不可或缺的一部分将有助于长期采用。例如，许多普通人群用户尝试过 ChatGPT，但在访问几次后就停止使用它。
要点：
人工智能需要快速的用户体验。企业常常忽视道德考虑的重要性以及人工智能对整个社会的影响。在没有道德远见的情况下整合人工智能可能会延续偏见，加剧社会不平等，并侵犯用户隐私。拥有坚实道德框架的用户体验专业人士对于引导人工智能淘金热走向负责任的创新之路至关重要。通过倡导包容性设计原则、道德数据使用和透明的人工智能决策流程，用户体验专业人员可以确保人工智能用户的信任，并为更安全、更高程度地采用人工智能做出贡献
最后的想法
人工智能和用户体验之间的合作不是一次性的事情，而是一种持续的对话，需要不断迭代和完善。通过用户研究、可用性测试和迭代设计流程，用户体验专业人员可以收集宝贵的见解，为人工智能驱动的解决方案的增强和优化提供信息，从而形成以用户为中心的方法，保持适应性和响应不断变化的用户需求和偏好。
