人工智能让你的生活更轻松. 它可以推荐你喜欢的电影, 它可以相对安全地驾驶你, 诊断你的疾病, 它甚至可以在你自己知道之前预测你要买什么. 在正确的人手中，人工智能无疑会改善你的生活. 但是，当我们使用人工智能来支持重大财务决策时，会发生什么呢? 人工智能解决方案能否仅仅因为首次购房者上个月在Deliveroo上花了太多钱而拒绝他们的抵押贷款申请?
人工智能有一个明显的致命弱点:提供给它的数据只具有我们人类赋予它的意义. 数据不能是客观的. 而, 它的意义是由人类构建的, 输入到人类编写的机器程序中, 其结果随后由人类来解释.
随着人工智能和机器学习继续渗透到越来越多的商业决策中, 我们需要注意它的缺点以及如何减轻它们. 记住这些老生常谈是很重要的 “垃圾进，垃圾出”如果输入的数据有偏差，计算机算法就不能产生有用的输出. 虽然金融服务可以使用算法来帮助实现许多主要功能, 比如借钱给谁，投资到哪里, 除非经过精确的训练，否则它们是无法工作的, 数据真实丰富.
我已经缩小了企业最终创造“垃圾”数据的3个关键原因，这些数据阻碍了他们的人工智能程序的客观性:
构建问题
对于深度学习程序试图实现的每一个解决方案，都必须存在一个问题. 当机器被训练产生某种输出时, 他们完全受企业如何定义问题的摆布.
以一个算法为例，该算法旨在增加零售信贷部门的利润. 以这种方式被企业框定, 解决方案很可能会发现，那些不太可能及时偿还债务的人更容易立即获利, 因此，对产品适用性提出疏忽的建议——这是企业肯定不会寻求的结果.
创建健壮的第一步, 有用和准确的人工智能解决方案是对业务问题的清晰和客观的表述，它考虑了最终客户的利益. 没有这个, 在技术开发开始之前，最终的解决方案将充满偏见和错误.
数据收集
机器解释的数据的选择和整理对结果有很大的影响. 如果数据集不能反映现实情况, 它会给你扭曲的结果, 或者更糟的是，它会强化现有的偏见或障碍.
去年 亚马逊不得不停止使用人工智能招聘工具 该公司审查了求职申请，以改进其人才识别流程. 总的来说，科技是一个男性主导的领域, 该项目让自己明白，男性候选人更受欢迎, 同时歧视女性候选人. 任何简历上有“女人”这个词的, 比如"女子网球队"或者"女子领导小组", 被自动处罚.
此外, 大多数统计模型的基线是历史数据，这有助于创建能够有效训练模型的趋势. 当没有足够的历史数据时，输出本质上是倾斜的. 如果没有什么可以比较你的发现, 那么很难说你的模型有多准确.
即使你有足够的数据来训练机器, 重要的是要仔细检查你是否有正确的数据来提供准确的图像.
大多数银行将受到系统捕获的数据点的支配，这些数据点最初并不是为了支持特定的人工智能问题陈述而设计的——这可能导致关键信息被忽视，无法作为算法的输入.
Say you choose to investigate the main reasons why customers are unable to make their mortgage repayments using internal account and transaction data; it is plausible you may not have enough context to generate an accurate finding. 你可能已经掌握了顾客的年龄, 收入和外卖习惯, 但这可能不会给你完整的画面. 那些最不可能错过抵押贷款还款的人也是年迈父母的照顾者吗? 他们去度假了，忘记提前还清账单了吗? 他们的关系状态有变化吗?
数据准备
特征选择是数据挖掘的关键组成部分，因此被描述为 机器学习的“艺术”. 每个数据集都由不同的“属性”组成，这些“属性”必须在被纳入计算机算法之前确定为重要或不重要.
当特征选择本身受制于人类偏见时，问题就出现了, 甚至当数据被训练的特征可能在道德上是不合适的. 例如, 这是美国用来帮助预测罪犯再次犯罪可能性的计算机算法 错误地指出黑人被告再次违法的可能性是其他人的两倍 而不是白人.
如果一个人工智能/机器学习程序表明，年龄是决定信用价值的最重要因素——因为年龄越大，偿还贷款的能力越强——这是否意味着年轻人不应该有资格获得住房贷款?
理解垃圾数据
你不需要成为数据科学家或计算机程序员就能理解，用于人工智能程序的数据是否存在缺陷，是否受到人类偏见的影响, 那么它告诉我们的任何信息都是有缺陷的，同样是扭曲的. 如果我们不考虑这些缺点, 我们无法做到客观，可能只会强化我们试图消除的偏见.
有了好的数据， 人工智能可以发挥令人印象深刻的作用我说的不仅仅是在Netflix上推荐电影. 然而, 即使有很好的数据, 算法可以根据隐藏的偏见进行训练，这些偏见会继续给我们带来微不足道的结果!
