¿Podemos confiar en máquinas que suenan demasiado como nosotros?
¿Podemos confiar en máquinas que suenan demasiado como nosotros?

¿Podemos confiar en máquinas que suenan demasiado como nosotros?

Imágenes Creativas/Getty

Muy pronto todo tendrá voz. Tu teléfono ya tiene uno, y tal vez tu altavoz inteligente. Tu auto. El mando a distancia de tu televisor. Pronto tu tostadora. Es probable que esas voces sean altamente confiables y basadas en una mentira.

Por el momento, para muchos de nosotros nuestra experiencia más común de interactuar con una computadora que habla con voz humana ocurre por teléfono con un estafador tratando de hacernos dar a una falsa caridad o pagar por ayuda con un problema de Windows que no tenemos. Pero en términos de conciencia pública, cada vez más asociamos aplicaciones informáticas con voz humana con asistentes digitales como Siri, Alexa, Google Assistant, Cortana,. Estas interfaces de usuario de estos asistentes son más convenientes que los botones y las teclas: puede interactuar con ellos mientras las dos manos sujetan a su hijo, obtener sus respuestas sin tener que dejar de monitorear el huevo que está fritando, y no tener que preocuparse por errores tipográficos en absoluto. Y ahora la siguiente ola está en camino: las interfaces de voz son la solución perfecta, por ejemplo, para el Internet de las cosas, todos aquellos dispositivos domésticos conectados y electrodomésticos que de otro modo tendrían sus propias interfaces y pantallas confusas. Dentro de poco estaremos hablando con casi cualquier cosa que tenga un interruptor eléctrico, y todas esas cosas estarán respondiendo con una voz humana.

Todos estos sistemas, especialmente los asistentes, tienen un incentivo para decirnos la verdad. Después de todo, cuando salgamos descubriremos si no es realmente soleado como prometió nuestro asistente digital. Cuando lleguemos a casa y tomemos nuestra cena del horno, averiguaremos si sus garantías de que precalentó nuestro horno eran infundadas. Incluso podemos descubrir que Kevin Bacon no es más alto que Tom Hanks, a pesar de lo que nuestro encantador asistente nos dijo. En estos casos simples y prácticos, si descubrimos que estos asistentes no nos dicen la verdad, simplemente dejaremos de usarlos.

Centro de información

Pero también todos tienen un incentivo para decirnos una gran mentira cada vez que hablan: que son como nosotros. Es por eso que el Asistente de inteligencia artificial dúplex de Google dice «um» a veces. Dúplex es el software que, por ejemplo, llamará a un restaurante y hará una reserva para usted sin que la persona del otro extremo se entere de que estaba hablando con una IA. Cuando Duplex um es, realmente no está en una pérdida de palabras. Sólo trata de engañar a la otra persona, como la voz de una llamada estafada. Eso podría funcionar bien en el momento — la recepcionista no se desconcertará con la idea de hablar con una máquina en lugar de con un compañero humano. Pero también puede erosionar una de nuestras formas de evaluar la confianza: cómo suena alguien.

Ahora, Google Duplex es un caso especial y algo extraño. También puede ser una solución temporal: una vez que los restaurantes y otros lugares obtienen su propia versión de Duplex para hacer reservas, podemos asumir que los AIs de ambos lados de la llamada abandonarán la pretensión y completarán la transacción en pitidos y boops de robot altamente eficientes en lugar de tratar de superar al otro.

Pero mientras tanto, todos estos asistentes suenan como humanos porque sus creadores quieren nuestra confianza. Saben que estamos conectados emocionalmente a las voces humanas. Es también por eso que estos asistentes tienden a dejar de lado las voces de las mujeres: nosotros los humanos, al menos en occidental, al parecer encontrar esas voces más confiables. Si Apple pudiera hacer que Siri nos nudara con su nariz fría y pedir ser acariciado, probablemente lo haría. Pero eso no haría a estos asistentes más confiables.

Sonando como un humano, y como una hembra de la especie, aumenta nuestra confianza, pero no porque los sistemas sean más confiables. Si sueno como una rana talentosa pasó a jugar en nuestras preferencias biológicas, entonces Siri sería expresado por Kermit. No se debe confiar en la confianza no ganada.

Además, toda esta humanización no está alineada con nuestros intereses reales. Mientras a Alexa le gusta pensar que quiero relajarme con ella en una mecedora en mi porche delantero y compartir un vaso de su famoso té dulce, esa no es realmente la forma más eficiente para que una máquina nos comunique información. Me gustaría poder decirle a Alexa que hable más rápido y que se salte las bromas. De hecho, un dispositivo que hable en una voz plana y rápida diseñada para nada más que para la transferencia eficiente de información puede ser mejor para señalar que los intereses de su creador están alineados con los nuestros: solo queremos saber que la estufa va a estar a 425F durante diez minutos y luego bajará a 350F durante treinta minutos. No necesitamos que la estufa finja que se preocupa por nosotros. Una voz mecánica puede realmente generar más confianza que todos esos, de la misma manera que puede ser un humano hablando claramente, sin adulaciones ni charlas. Al menos para algunos de nosotros.

Puede ser demasiado pedir que nuestros dispositivos no traten de hablar como humanos directamente fuera de la caja. Pero a medida que las cosas que nos rodean comienzan a competir por nuestra atención y nuestra confianza hablando en voces humanas caseras pero falsas como en alguna película distópica de Disney, las compañías pueden encontrar que darnos la opción de mandar a nuestros asistentes digitales a hablar como las máquinas sin alma que son tiene sentido comercial.

 


David Weinberger via HBR.org