Général. Recherche. La technologie

Le côté obscur de l'intelligence artificielle: l'IA est-elle aussi bonne qu'on nous le dit?

Qu'est-ce que l'intelligence artificielle?Maintenant, ils parlent de lui de presque tous les coins: "le premier smartphone avec intelligence artificielle", "caméra avec intelligence artificielle" et ainsi de suite. Les spécialistes du marketing ont très bien appris à attribuer à l'IA tout travail de calcul effectué par un appareil, que ce soit un téléphone, une tablette ou une voiture. En fait, tout cela est, dans l'ensemble, des jouets. La véritable intelligence artificielle est hors de portée de la plupart, et elle semble devenir aussi aurifère pour ce siècle que le pétrole l'était dans le passé. Son développement est réalisé par des États et des entreprises avec des milliards de dollars de financement - rien qu'aux États-Unis, les investissements dans l'IA au cours de l'année écoulée se sont élevés à plus de 25 milliards de dollars... Et une telle intelligence artificielle comporte non seulement des avantages, mais aussi des dangers.

De nombreuses personnes sous-estiment les dangers de l'intelligence artificielle. Et non, il ne s'agit pas du film "Terminator"

J'ai récemment lu un très bon livre sur ce sujet, "Le côté obscur de l'intelligence artificielle" de Stanislav Petrovsky, qui est allé àPlateforme de publication de Ridero. Auparavant, j'étudiais principalement les travaux de scientifiques étrangers, mais cette fois, le sujet s'est avéré très proche de moi. De plus, l'auteur du livre est candidat aux sciences juridiques, a travaillé comme chercheur principal à l'Institut d'État et de droit de l'Académie des sciences de Russie. Depuis plus de 20 ans, il étudie la réglementation juridique des technologies de l'information et est lauréat du concours panrusse d'initiatives législatives dans le domaine de la protection des droits de l'homme. Il comprend certainement non seulement les hautes technologies, mais aussi leur impact sur la vie humaine, y compris au plus haut niveau.

Défis de l'intelligence artificielle

Non, il n'y a pas de théories du complot oudes histoires sur la façon dont les terminateurs détruiront l'humanité à l'avenir. L'auteur soulève des problèmes beaucoup plus pressants liés aux droits et libertés des citoyens, qui émergent déjà. Cela inclut le marché noir des données personnelles (rappelez-vous, à quand remonte la dernière fois que les escrocs bancaires vous ont appelé), la surveillance totale, le monopole des réseaux sociaux et la gadgetomanie au niveau des plus jeunes générations. Sans parler du fait que tout cela ensemble et séparément est déjà utilisé dans les coups d'État.

L'intelligence artificielle peut devenir un "dictateur immortel" - Elon Musk, chef de Tesla et SpaceX.

Déjà dans l'introduction, l'auteur décrit comment lecourse internationale dans le domaine de l'intelligence artificielle. Par exemple, je ne savais pas qu'en 2017 les principes Azilomar AI ont été approuvés, ce que les plus grandes entreprises et les experts en IA du monde entier ont accepté de respecter, mais maintenant tout le monde les enfreint. Je recommande vivement les chapitres «Intelligence naturelle» et «Ce qu'on appelle l'intelligence artificielle»: là, l'auteur décrit simplement ce qu'est réellement l'IA - soulève le problème même dont j'ai parlé au tout début de cet article. La différence entre une IA forte (intelligence artificielle), qui n'existe pas encore, et une IA faible (spécialisée), qui est déjà en cours de mise en œuvre, est décrite dans un langage très clair. Les principales directions de l'application de l'IA, l'histoire des victoires de l'IA sur les humains, ainsi que les scénarios de menaces pour l'humanité lors de la création d'une IA forte sont décrits.

Pourquoi l'IA est dangereuse

Le livre traite le problème des "deepfakes" séparément.(faux profond). Déjà, avec l'aide de l'intelligence artificielle, il est possible de créer de fausses vidéos et des voix impossibles à distinguer de la vérité à l'œil nu, et souvent avec l'aide de l'expertise. L'un des exemples frappants est la vidéo récente avec Tom Cruise, dans laquelle, en fait, pas lui, mais sa copie de deep fake. Même les experts n'ont pas pu remarquer le faux la première fois, que pouvons-nous dire du reste?

Également discuté dans le livre en tant que défauts de l'IA(par exemple, dans le cas d'un déclenchement erroné du système de reconnaissance faciale), et son danger pour de nombreuses personnes, car l'introduction de l'IA entraînera la disparition de certains et l'émergence d'autres professions, qui dans la prochaine décennie pourraient conduire au taux de chômage le plus élevé des cent dernières années. Sans parler de la puissance illimitée des géants de l'informatique, qui leur est donnée par les développements liés à l'IA (chapitre «Monopoliser tout»).

L'intelligence artificielle est aussi dangereuse que les armes nucléaires! - Bill Gates, fondateur de Microsoft.

Et, bien sûr, l'auteur n'a pas contourné la menace pesant sur les données personnelles, qui là DÉJÀ maintenant... Savez-vous, par exemple, combien d'organisationsautoriser le traitement de données personnelles lorsque vous signez un formulaire apparemment innocent sur Internet? Combien de hacks les hackers font-ils chaque année?

Je n'ai que des émotions positives deAprès avoir lu le livre "The Dark Side of Artificial Intelligence", il vous fait réfléchir sérieusement à ce qui nous attend dans quelques années avec le même niveau de développement technologique. Je vous conseille de le lire, il intéressera tous ceux qui veulent savoir comment les technologies de l'information modernes affectent la société, et pas seulement les experts en intelligence artificielle.