Et si on hackait l'intelligence artificielle ? | LINC
Dans un article du MIT Technology Review, le journaliste Will Knight s'inquiète de l'intérêt que pourrait susciter les systèmes d'intelligence artificielle pour les hackers, qui ne tarderont pas selon lui à tenter de tromper ces dispositifs. Des chercheurs ont démontré que les algorithmes de machine-learning peuvent être manipulés en exploitant leur propension à cibler des modèles (patterns) dans les données : en leur envoyant de fausses informations, les algorithmes construisent des modèles érronés. Il est par exemple possible de tromper un véhicule autonome avec des panneaux d'affichages, ou des assistants à reconnaissance vocale par des signaux inaudibles pour l'oreille humaine. L'algorithme n'est pas encore suffisamment intelligent pour repérer que l'on cherche à le tromper.
Pour Patrick McDaniel, professeur à l'université de Pennsylvanie, "le risque est réel [...] les systèmes de machine-learning opèrent sur tous types de fonctions pour lesquels des personnes pourraient financer des attaques".
