Intelligence Artificielle : les espions sont-ils parmi nous ? (Partie 2)

C’est un fait, la confidentialité n’est pas la qualité première des assistants vocaux. Mais l’inquiétude grandit lorsque l’on sait que les plus grandes firmes comme Apple, Google ou Amazon enregistrent, (ou enregistraient ?), nos demandes qui étaient ensuite traitées par des humains. Sommes-nous réellement protégés contre un « piratage » de notre vie privée, ou de nos données professionnelles ? Quel assistant vocal choisir ?
Cofordis fait le point.

Le Guardian l’a annoncé en juillet dernier : nos conversations écoutées sur Siri étaient analysées par des sociétés travaillant pour Apple ! Prétextant l’amélioration des systèmes, des humains évaluent les réponses faites par Siri, avec en ligne de mire, le déclenchement intentionnel ou pas de l’assistant vocal, la qualité des réponses …
Selon Apple, nos données « sont utilisées pour aider Siri à la dictée, pour mieux comprendre ce que l’utilisateur dit », et ce pour moins d’1% des activations quotidiennes, et seulement pendant quelques secondes. Apple appelle cela le « classement ».
En effet, les déclenchements inopinés de Siri sont nombreux, mais Apple se défend en disant que Siri peut entendre par erreur les mots déclencheurs, ou se met en marche pendant 30’’ au son d’une simple fermeture éclair. La BBC a été victime de cette confusion : une interview a été interrompue parce qu’elle parlait de la Syrie. L’Apple watch aussi s’active dès qu’elle est soulevée ou qu’elle entend parler.
Selon un lanceur d’alerte sous-traitant d’Apple, des discussions commerciales, des entretiens médecins-patients, des rendez-vous sexuels ont été enregistrés révélant des données sensibles de l’utilisateur.
Apple tente de rassurer en précisant «que les données Siri ne sont pas liées à d’autres données qu’Apple peut avoir sur votre utilisation d’autres services Apple ».
De leur côté, Amazon reconnait faire écouter des enregistrements provenant d’Alexa par des prestataires, et Google le fait faire par ses propres employés pour Google Assistant.

Qui choisir ?

Ces assistants personnels sont des véritables jackpots pour récupérer des données personnelles. Grâce à elle, Google, par exemple, établi le profil des utilisateurs pour créer des campagnes de publicité ciblées.
Si Amazon n’a jamais été fan de publicités, et soutient qu’il n’y en a pas via Alexa, elle n’exclut pas d’en faire.
Difficile de déterminer à qui se fier, mais certaines sociétés, comme Facebook, ont déjà démontré leur manque de fiabilité en termes de respect de la vie privée : ne pas utiliser Portal, son nouvel appareil d’appel vidéo, est logique. Malgré la mise en place d’un « obturateur spécial » censé protéger la vie privée, Facebook a dû admettre que l’appareil collectait bien des informations personnelles.
Bixby (Samsung) et Cortana (Microsoft) sont qualiteux mais font figure de petit poucet face aux géants que sont Alexa et Google Assistant. Samsung ayant annoncé que ses téléviseurs connectés fonctionneraient avec Google et Alexa en plus de Bixby, et Cortana collaborant depuis 1 an avec Alexa, ces 2 firmes n’ont clairement pas envie de rentrer dans la bataille.
Quant à Apple, elle s’est faite remarquer au dernier CES de Las Vegas : pas de présentation produits, mais une publicité oversize sur la façade d’un building de 13 étages : « ce qui se passe sur votre Iphone reste sur votre Iphone ». Humour ! Certes les requêtes posées sur HomePod sont anonymes et ne sont pas enregistrées dans les serveurs d’Apple, mais n’oublions pas que Siri est la plateforme du HomePod …
Malgré la fiabilité affirmée de sa nouvelle enceinte connectée, Siri a encore des soucis de compréhension des mots. Il faut rester sur des commandes basiques : minuteur, lumière, musique, envoi de sms. Quant au HomePod, ses failles principales sont la non-reconnaissance de la voix de ses utilisateurs, et l’impossibilité de créer de comptes séparés. En clair, quiconque entrant à votre domicile peut se faire passer pour vous et l’utiliser.
Si la confidentialité est votre priorité, misez sur HomePod, mais Siri reste d’une qualité moindre que Google et Alexa.

Surveillance suspendue et fin des écoutes automatiques

Face à cette déferlante de protestation, Apple et Google ont dû prendre des directives radicales.
Apple supprime l’enregistrement vocal automatique ; l’utilisateur devra l’activer, et les séquences sonores collectées ne seront analysées que par des salariés d’Apple.
Comme Apple, Google cesse la surveillance humaine des enregistrements vocaux, mais uniquement en Europe et pour une durée déterminée, sur demande des autorités allemande suite à une fuite de données sur leur territoire.
Quant à Amazon, aucune mesure n’a été prise pour le moment.

Ces différents bugs, montre que ces appareils connectés ne préservent pas la vie privée des utilisateurs. Mais n’étant pas prêts de disparaître, les fabricants doivent les rendre plus performants. Et pour y parvenir, il faut savoir ce qui fonctionne moins bien pour y remédier. Compliqué !
L’IA est partout et le sera de plus en plus, d’où une augmentation du risque de fuite augment. Un vrai casse-tête pour les GAFA !