面部分析软件正被用来预测性行为和安全风险。

去年9月，斯坦福大学教授Michal Kosinski利用AI试图从他们脸上预测性取向时，引发了一场激烈的争论。现在，他已经用自己的软件来证明他所表达的观点。

AI背后的机器学习类型，它能识别模式，并能从大量数据(如文本和图像)中做出预测。其他由神经网络驱动的图像识别技术正在开发中，包括阅读自动驾驶标志和自动检测机场安全扫描仪中的武器。

近年来，神经网络也使得面部分析等技术更加精确。Kosinski教授说：“我试图告诉大家，公司和政府正在利用面部分析技术，以前所未有的规模侵犯隐私。”

去年夏天，中国企业开始试用面部识别软件，以帮助警方预测犯罪事件的发生。以色列公司Faception向各国政府出售安全用途的面部分析软件。

Kosinski教授和他的共同研究人员Yilun Wang使用了一种叫做VGG-Face的面部分析软件。设计VGG-Face的三名牛津大学研究人员之一的Andrea Vedaldi表示，在过去的两年里，软件的准确率大约翻了一番。

Kosinski教授和Yilun Wang从一个美国约会网站的35000个头部照片中提取了数据，使用VGG-Face将他们的属性翻译成一系列数字，然后使用计算机模型来查找性与脸部特征之间的相关性。

必须承认，他们并没有创造出一个可以在现实世界中应用的愚蠢“Gaydar”，他们也不想这样做。限制因素依然存在，包括他们只使用了白种人的图像，而在其他任务中，他们的模型的准确性显著下降。

有些人对结果持怀疑态度。Vedaldi教授说：“可以想象的是，他们所展示的是真实的，”“也许在数据库中存在一些不必要的偏见，如果他们以其他方式收集数据，那就不存在了。”

牛津大学计算机科学教授Marta Kwiatowska在研究自动驾驶汽车的安全风险时说：“神经网络非常善于发现这些模式，但是当他们给你（一个答案）时，他们不善于告诉你是否存在一个相关关系，因为他们可能会看到一些随机的模式。”

Kosinski教授表示，虚假的相关性是“最大的风险”，也是他研究的“主要挑战”。他举了一个假设的例子，可能会影响他的下一个项目的发现:“可能是共和党人倾向于在室外拍摄[他们的脸]，而民主党人的室内拍照，在亮度上也会有所不同。”在这种情况下，神经网络可以把注意力集中在亮度而不是面部表情上，但似乎可以看到面部的链接。

同样，目前还不清楚他的软件究竟是如何寻找性特征的，以及是否发现了与性有关的内在特征，或者是否主要集中在一些更肤浅的问题上，比如梳理之类。Kosinski教授说，这个模型既考虑了鼻子形状等固定特征，也考虑了表情等更多的瞬态因素。

Vedaldi教授表示：“如果网络能告诉你为什么认为答案是这样或那样，那就太好了， 而机器本身并没有完全理解。”

让神经网络来解释他们如何分析图像是他目前研究的重点。

如果研究人员能够理解神经网络是如何做出决定的——通过视觉线索，或者如果他们能够识别出一些例子来说明为什么他们的算法选择了一个特定的预测，那么就会更容易地提高他们的准确性和偏差。

即便如此，他们的发展也有可能受到限制。神经网络需要高质量的数据源来训练，这可以模拟真实世界的例子，但是获取这些数据往往是困难的。他们也可以被照片之间的细微差别所欺骗，故意欺骗模特，被称为“敌对的例子”。

Yilun Wang 表示：“我可以看到改善(视觉图像和面部识别神经网络)性能的方法，但却没有看到达到百分之百的方法。”研究人员说，在神经网络能够可靠地用于更多安全关键领域的面部识别之前，可能还需要一段时间。

“我不会用它们来控制核导弹，”Vedaldi教授说，“但他们不需要(达到犯罪现场调查水平)有用，他们只需要能够大规模地系统地做一些事情来观察成千上万人的脸——突然间，你就已经部署了人类大脑的强大力量，并将其增加了1000倍。”