La raison pour laquelle cet article (et d'autres) est apparu est simple: peut-être que l'intelligence artificielle n'est pas seulement un sujet de discussion important, mais le plus important dans le contexte du futur. Quiconque pénètre même un peu dans l'essence du potentiel de l'intelligence artificielle reconnaît que ce sujet ne peut être ignoré. Certains - et parmi eux Elon Musk, Stephen Hawking, Bill Gates, qui ne sont pas les personnes les plus stupides de notre planète - pensent que l'intelligence artificielle constitue une menace existentielle pour l'humanité, d'une ampleur comparable à notre extinction complète en tant qu'espèce. Eh bien, asseyez-vous et pointez le i pour vous-même.
« Nous sommes à la veille de changements comparables à l'origine de la vie humaine sur Terre » (Vernor Vinge).
Que signifie être à la veille d'un tel changement ?
Cela semble n'avoir rien de spécial. Mais vous devez vous rappeler qu'être à un tel endroit sur le graphique signifie que vous ne savez pas ce qui se trouve à votre droite. Vous devriez ressentir quelque chose comme ceci:
Les sensations sont tout à fait normales, le vol se passe bien.
Le futur arrive
Imaginez qu'une machine à remonter le temps vous a transporté en 1750 - une époque où le monde connaissait des interruptions constantes de l'approvisionnement en électricité, la communication entre les villes signifiait des coups de canon et tous les transports fonctionnaient au foin. Disons que vous y arrivez, prenez quelqu'un et amenez-le en 2015, montrez comment c'est ici. Nous sommes incapables de comprendre ce que ce serait pour lui de voir toutes ces capsules brillantes voler le long des routes; parler aux gens de l'autre côté de l'océan; regarder des matchs de sport à mille kilomètres de là; écoutez une performance musicale enregistrée il y a 50 ans; jouez avec un rectangle magique qui peut prendre une photo ou capturer un moment en direct; construire une carte avec un point bleu paranormal indiquant son emplacement; regarder le visage de quelqu'un et communiquer avec lui à plusieurs kilomètres, et ainsi de suite. Tout cela est une magie inexplicable pour presque trois cents ans. Sans oublier Internet, la Station spatiale internationale, le Grand collisionneur de hadrons, les armes nucléaires et la relativité générale.
Une telle expérience pour lui ne sera ni surprenante ni choquante - ces mots ne transmettent pas toute l'essence de l'effondrement mental. Notre voyageur peut mourir complètement.
Mais il y a un point intéressant. S'il remonte à 1750 et devient jaloux que nous voulions voir sa réaction à 2015, il peut prendre une machine à remonter le temps avec lui et essayer de faire la même chose avec, disons, 1500. Il s'y envolera, trouvera une personne, la récupérera en 1750 et montrera tout. Un gars de 1500 sera choqué au-delà de toute mesure - mais ne risque pas de mourir. Bien qu'il soit bien sûr surpris, la différence entre 1500 et 1750 est bien moindre qu'entre 1750 et 2015. Une personne de 1500 sera surprise à certains moments de la physique, sera étonnée de ce que l'Europe est devenue sous le talon dur de l'impérialisme, va dessiner une nouvelle carte du monde dans sa tête… Mais la vie quotidienne en 1750 - transports, communications, etc. - ne le surprendra probablement pas à mort.
Non, pour qu'un gars de 1750 s'amuse comme nous, il doit aller beaucoup plus loin - peut-être une année comme celle-ci en 12 000 av. J.-C., avant même que la première révolution agricole n'ait donné naissance aux premières villes et au concept de civilisation. Si quelqu'un du monde des chasseurs-cueilleurs, de l'époque où les gens étaient encore une autre espèce animale, a vu les immenses empires humains de 1750 avec leurs hautes églises, leurs navires traversant les océans, leur concept d'être « à l'intérieur » d'un bâtiment, tout cette connaissance - il serait mort, très probablement.
Et puis, après la mort, il aurait envié et aurait voulu faire de même. Reviendrait il y a 12 000 ans, à 24 000 av. e., aurait pris une personne et l'aurait amenée en temps voulu. Et un nouveau voyageur lui dirait: "Eh bien, ça va, merci." Parce que dans ce cas, une personne de 12 000 av. NS. il faudrait remonter 100 000 ans et montrer pour la première fois le feu et la langue des aborigènes locaux.
Si nous avons besoin de transporter quelqu'un dans le futur pour être surpris à mort, le progrès doit parcourir une certaine distance. Le point de progression de la mort (TPP) doit être atteint. C'est-à-dire que si à l'époque des chasseurs-cueilleurs TSP a pris 100 000 ans, le prochain arrêt a déjà eu lieu en 12 000 av. NS. Après cela, le progrès était déjà plus rapide et a radicalement transformé le monde en 1750 (environ). Ensuite, cela a pris quelques centaines d'années, et nous y sommes.
Cette image - où le progrès humain s'accélère avec le temps - le futuriste Ray Kurzweil appelle la loi des retours accélérés dans l'histoire de l'humanité. En effet, les sociétés plus développées ont la capacité de progresser plus rapidement que les sociétés moins développées. Les gens du XIXe siècle en savaient plus que les gens du XVe siècle, il n'est donc pas surprenant que les progrès au XIXe siècle aient été plus rapides qu'au XVe siècle, et ainsi de suite.
À plus petite échelle, cela fonctionne également. Retour vers le futur est sorti en 1985 et le passé était en 1955. Dans le film, lorsque Michael J. Fox est revenu en 1955, il a été surpris par la nouveauté des téléviseurs, le prix du soda, le manque d'amour pour le son de la guitare et les variations d'argot. C'était un autre monde, bien sûr, mais si le film était tourné aujourd'hui, et que le passé était en 1985, la différence serait beaucoup plus globale. Marty McFly, à l'époque des ordinateurs personnels, d'Internet, des téléphones portables, serait bien moins pertinent que Marty, qui est passé de 1955 à 1985.
Tout cela est dû à la loi des retours accélérés. Le taux moyen de développement du progrès entre 1985 et 2015 était supérieur au taux de 1955 à 1985 - car dans le premier cas, le monde était plus développé, il était saturé des acquis des 30 dernières années.
Ainsi, plus il y a de réalisations, plus les changements se produisent rapidement. Mais cela ne devrait-il pas nous laisser quelques pistes pour l'avenir ?
Kurzweil suggère que les progrès de l'ensemble du 20e siècle auraient pu être réalisés en seulement 20 ans au niveau de développement de 2000 - c'est-à-dire qu'en 2000, le taux de progrès était cinq fois plus rapide que le taux de progrès moyen du 20e siècle. Il estime également que les progrès de l'ensemble du 20e siècle étaient équivalents aux progrès de la période de 2000 à 2014, et les progrès d'un autre 20e siècle seront équivalents à la période jusqu'en 2021, c'est-à-dire dans seulement sept ans. Après plusieurs décennies, tous les progrès du XXe siècle auront lieu plusieurs fois par an, puis en à peine un mois. En fin de compte, la loi des retours accélérés nous conduira au point que les progrès sur l'ensemble du 21e siècle seront 1 000 fois plus importants que les progrès du 20e siècle.
Si Kurzweil et ses partisans ont raison, 2030 nous surprendra de la même manière que le gars de 1750 aurait surpris notre 2015 - c'est-à-dire que le prochain TSP ne prendra que quelques décennies - et le monde de 2050 sera si différent du moderne que nous découvrons à peine. Et ce n'est pas de la fiction. C'est l'opinion de nombreux scientifiques qui sont plus intelligents et plus instruits que vous et moi. Et si vous regardez l'histoire, vous comprendrez que cette prédiction découle de la pure logique.
Pourquoi alors, lorsque nous sommes confrontés à des déclarations telles que « le monde dans 35 ans changera au-delà de la reconnaissance », haussons-nous les épaules avec scepticisme ? Trois raisons expliquent notre scepticisme quant aux prévisions futures:
1. Quand il s'agit d'histoire, nous pensons en ligne droite. En essayant de visualiser les progrès des 30 prochaines années, nous regardons les progrès des 30 précédentes comme un indicateur de ce qui est susceptible de se produire. Lorsque nous pensons à la façon dont notre monde changera au 21e siècle, nous prenons les progrès du 20e siècle et les ajoutons à l'an 2000. La même erreur que notre gars de 1750 fait quand il prend quelqu'un de 1500 et essaie de le surprendre. Nous pensons intuitivement de manière linéaire, alors que nous devrions être exponentiels. Essentiellement, un futurologue devrait essayer de prédire les progrès des 30 prochaines années, sans regarder les 30 précédentes, mais en jugeant par le niveau actuel de progrès. Ensuite, les prévisions seront plus précises, mais toujours à la porte. Pour penser correctement à l'avenir, vous devez voir les choses évoluer à un rythme beaucoup plus rapide qu'elles n'avancent actuellement.
[/centre]
2. La trajectoire de l'histoire récente est souvent faussée. Premièrement, même une courbe exponentielle raide apparaît linéaire lorsque vous en voyez de petites portions. Deuxièmement, la croissance exponentielle n'est pas toujours régulière et uniforme. Kurzweil croit que le progrès se déplace dans des courbes sinueuses.
Une telle courbe passe par trois phases: 1) croissance lente (phase précoce de croissance exponentielle); 2) croissance rapide (explosif, phase tardive de croissance exponentielle); 3) stabilisation sous la forme d'un paradigme spécifique.
Si vous regardez la dernière histoire, la partie de la courbe en S dans laquelle vous vous trouvez actuellement peut masquer la vitesse de progression de votre perception. Une partie du temps entre 1995 et 2007 a été consacrée au développement explosif d'Internet, à la présentation de Microsoft, Google et Facebook au public, à la naissance des réseaux sociaux et au développement des téléphones portables puis des smartphones. C'était la deuxième phase de notre courbe. Mais la période de 2008 à 2015 a été moins disruptive, du moins sur le plan technologique. Ceux qui pensent à l'avenir aujourd'hui peuvent prendre les deux dernières années pour évaluer le rythme global des progrès, mais ils ne voient pas la situation dans son ensemble. En fait, une nouvelle et puissante phase 2 est peut-être en train de se préparer.
3. Notre propre expérience fait de nous des personnes âgées grincheuses quand il s'agit de l'avenir. Nous basons nos idées sur le monde sur notre propre expérience, et cette expérience nous a naturellement donné le rythme de notre croissance dans un passé récent. De même, notre imagination est limitée, car elle utilise notre expérience pour prédire - mais le plus souvent, nous n'avons tout simplement pas les outils qui nous permettent de prédire avec précision l'avenir. Lorsque nous entendons des prédictions pour l'avenir qui sont en contradiction avec nos perceptions quotidiennes du fonctionnement des choses, nous les considérons instinctivement comme naïves. Si je vous dis que vous vivrez jusqu'à 150 ou 250 ans, ou peut-être que vous ne mourrez pas du tout, vous penserez instinctivement que « c'est stupide, je sais par l'histoire que pendant ce temps tout le monde est mort ». C'est ainsi: personne n'a vécu pour voir de telles années. Mais pas un seul avion n'a volé avant l'invention des avions.
Ainsi, si le scepticisme vous semble raisonnable, il est le plus souvent faux. Nous devons accepter que si nous nous armons de pure logique et attendons les zigzags historiques habituels, nous devons admettre que très, très, très beaucoup doivent changer dans les décennies à venir; bien plus qu'intuitivement. La logique dicte également que si les espèces les plus avancées de la planète continuent de faire des pas de géant en avant, de plus en plus vite, à un moment donné, le saut sera si grave qu'il changera radicalement la vie telle que nous la connaissons. Quelque chose de similaire s'est produit dans le processus d'évolution, lorsque l'homme est devenu si intelligent qu'il a complètement changé la vie de toute autre espèce sur la planète Terre. Et si vous prenez un peu de temps pour lire ce qui se passe actuellement dans le domaine de la science et de la technologie, vous commencerez peut-être à voir des indices sur ce à quoi ressemblera le prochain pas de géant.
La route vers la superintelligence: qu'est-ce que l'IA (intelligence artificielle) ?
Comme beaucoup de gens sur cette planète, vous avez l'habitude de considérer l'intelligence artificielle comme une idée stupide de science-fiction. Mais dernièrement, beaucoup de gens sérieux se sont montrés préoccupés par cette idée stupide. Qu'est-ce qui ne va pas?
Il y a trois raisons qui prêtent à confusion autour du terme IA:
Nous associons l'IA aux films. "Guerres des étoiles". "Terminateur". "Une odyssée de l'espace 2001". Mais comme les robots, l'IA dans ces films est de la fiction. Ainsi, les cassettes hollywoodiennes diluent le niveau de notre perception, l'IA devient familière, familière et, bien sûr, maléfique.
Il s'agit d'un large champ d'application. Cela commence par une calculatrice dans votre téléphone et le développement de voitures autonomes vers quelque chose de loin dans le futur qui révolutionnera le monde. L'IA représente toutes ces choses, et c'est déroutant.
Nous utilisons l'IA tous les jours, mais souvent nous ne nous en rendons même pas compte. Comme l'a dit John McCarthy, l'inventeur du terme « intelligence artificielle » en 1956, « une fois que cela fonctionne, plus personne ne l'appelle IA ». L'IA est devenue plus une prédiction mythique sur l'avenir qu'une réalité. En même temps, ce nom a aussi une saveur de quelque chose du passé qui n'est jamais devenu réalité. Ray Kurzweil dit avoir entendu des gens associer l'IA à des faits des années 80, ce qui peut être comparé à "affirmer qu'Internet est mort avec les dotcoms au début des années 2000".
Soyons clairs. Tout d'abord, arrêtez de penser aux robots. Le robot qui est le conteneur de l'IA imite parfois la forme humaine, parfois non, mais l'IA elle-même est l'ordinateur à l'intérieur du robot. L'IA est un cerveau, et un robot est un corps, s'il a un corps. Par exemple, le logiciel et les données de Siri sont de l'intelligence artificielle, la voix d'une femme est la personnification de cette IA et il n'y a pas de robots dans ce système.
Deuxièmement, vous avez probablement entendu le terme "singularité" ou "singularité technologique". Ce terme est utilisé en mathématiques pour décrire une situation inhabituelle où les règles habituelles ne fonctionnent plus. En physique, il est utilisé pour décrire le point infinitésimal et dense d'un trou noir, ou le point d'origine du Big Bang. Encore une fois, les lois de la physique ne fonctionnent pas là-dedans. En 1993, Vernor Vinge a écrit un essai célèbre dans lequel il a appliqué le terme à un moment dans le futur où l'intelligence de nos technologies surpasse la nôtre - à quel point la vie telle que nous la connaissons changera pour toujours, et les règles habituelles de son existence ne fonctionnera plus. … Ray Kurzweil a encore affiné ce terme, soulignant que la singularité sera atteinte lorsque la loi d'accélération du recul atteindra un point extrême, lorsque le progrès technologique va si vite que l'on cesse de remarquer ses réalisations, presque infiniment vite. Ensuite, nous vivrons dans un monde complètement nouveau. Cependant, de nombreux experts ont cessé d'utiliser ce terme, alors ne nous y référons pas souvent.
Enfin, bien qu'il existe de nombreux types ou formes d'IA qui dérivent du concept large d'IA, les principales catégories d'IA dépendent du calibre. Il existe trois catégories principales:
Intelligence artificielle (IA) focalisée (faible). UII se spécialise dans un domaine. Parmi ces IA, il y a ceux qui peuvent battre le champion du monde d'échecs, mais c'est tout. Il y en a un qui peut offrir le meilleur moyen de stocker des données sur votre disque dur, et c'est tout.
Intelligence artificielle générale (forte). Parfois aussi appelée IA de niveau humain. AGI fait référence à un ordinateur aussi intelligent qu'une personne - une machine capable d'effectuer toute action intellectuelle inhérente à une personne. Créer AGI est beaucoup plus difficile qu'AGI, et nous n'y sommes pas encore parvenus. Le professeur Linda Gottfredson décrit l'intelligence comme « dans un sens général, le potentiel psychique, qui comprend, entre autres, la capacité de raisonner, de planifier, de résoudre des problèmes, de penser de manière abstraite, de comprendre des idées complexes, d'apprendre rapidement et d'apprendre par expérience ». AGI devrait être capable de faire tout cela aussi facilement que vous.
Superintelligence artificielle (ISI). Le philosophe d'Oxford et théoricien de l'IA Nick Bostrom définit la superintelligence comme « une intelligence bien plus intelligente que les meilleurs esprits humains dans pratiquement tous les domaines, y compris la créativité scientifique, la sagesse générale et les compétences sociales ». La superintelligence artificielle comprend à la fois un ordinateur légèrement plus intelligent qu'une personne et un qui est des milliards de fois plus intelligent dans n'importe quelle direction. L'ISI est la raison de l'intérêt croissant pour l'IA, ainsi que le fait que les mots "extinction" et "immortalité" apparaissent souvent dans de telles discussions.
De nos jours, les humains ont déjà conquis la toute première étape du calibre de l'IA - l'IA - à bien des égards. La révolution de l'IA est un voyage d'AGI à ISI en passant par AGI. Ce chemin, nous ne survivrons peut-être pas, mais il changera certainement tout.
Examinons de près comment les principaux penseurs du domaine voient cette voie et pourquoi cette révolution pourrait se produire plus rapidement que vous ne le pensez.
Où en sommes-nous dans ce flux ?
L'intelligence artificielle focalisée est une intelligence machine qui est égale ou supérieure à l'intelligence humaine ou à l'efficacité dans l'exécution d'une tâche spécifique. Quelques exemples:
* Les voitures sont bourrées de systèmes ICD, des ordinateurs qui déterminent quand le système de freinage antiblocage doit entrer en action à un ordinateur qui détermine les paramètres du système d'injection de carburant. Les voitures autonomes de Google, qui sont actuellement testées, contiendront des systèmes d'IA robustes qui détectent et réagissent au monde qui les entoure.
* Votre téléphone est une petite usine ICD. Lorsque vous utilisez l'application Cartes, obtenez des recommandations pour télécharger des applications ou de la musique, consultez la météo de demain, parlez à Siri ou faites autre chose - vous utilisez l'IA.
* Votre filtre anti-spam est un type classique d'IA. Il commence par déterminer comment séparer le spam des e-mails utilisables, puis apprend à mesure qu'il gère vos e-mails et vos préférences.
* Et ce sentiment gênant quand hier vous cherchiez un tournevis ou un nouveau plasma dans un moteur de recherche, mais aujourd'hui vous voyez des offres de boutiques utiles sur d'autres sites ? Ou quand le réseau social vous recommande d'ajouter des personnes intéressantes comme amis ? Ce sont tous des systèmes d'IA qui fonctionnent ensemble, déterminant vos préférences, récupérant des données vous concernant sur Internet, se rapprochant de plus en plus de vous. Ils analysent le comportement de millions de personnes et tirent des conclusions sur la base de ces analyses afin de vendre les services des grandes entreprises ou d'améliorer leurs services.
* Google Translate, un autre système d'IA classique, est incroyablement bon dans certains domaines. La reconnaissance vocale aussi. Lorsque votre avion atterrit, son terminal n'est pas identifié par une personne. Le prix du billet est le même. Les meilleurs jeux de dames, d'échecs, de backgammon, de bulldozer et d'autres jeux du monde sont aujourd'hui représentés par une intelligence artificielle étroitement ciblée.
* La recherche Google est une IA géante qui utilise des méthodes incroyablement intelligentes pour classer les pages et déterminer les SERP.
Et ce n'est que dans le monde de la consommation. Les systèmes IMD sophistiqués sont largement utilisés dans les secteurs militaire, manufacturier et financier; dans les systèmes médicaux (pensez à Watson d'IBM) et ainsi de suite.
Les systèmes IMD dans leur forme actuelle ne constituent pas une menace. Dans le pire des cas, une IA boguée ou mal programmée peut entraîner une catastrophe locale, des pannes de courant, l'effondrement des marchés financiers, etc. Mais alors qu'AGI n'est pas habilité à créer une menace existentielle, nous devons voir les choses plus larges - un ouragan dévastateur nous attend, dont le signe avant-coureur est AII. Chaque nouvelle innovation dans AGI ajoute un bloc au chemin menant à AGI et ISI. Ou, comme Aaron Saenz l'a bien noté, les IA de notre monde sont comme « les acides aminés de la soupe primordiale de la jeune Terre » - pourtant des composants sans vie de la vie qui se réveilleront un jour.
La route d'AGI à AGI: pourquoi est-ce si difficile ?
Rien ne révèle plus la complexité de l'intelligence humaine que d'essayer de créer un ordinateur tout aussi intelligent. Construire des gratte-ciel, voler dans l'espace, les secrets du Big Bang - tout cela est un non-sens comparé à répéter notre propre cerveau ou au moins à le comprendre. Le cerveau humain est actuellement l'objet le plus complexe de l'univers connu.
Peut-être que vous ne soupçonnez même pas la difficulté de créer un AGI (un ordinateur qui sera intelligent en tant que personne, en général, et pas seulement dans un domaine). Construire un ordinateur capable de multiplier deux nombres à dix chiffres en une fraction de seconde est aussi simple que de décortiquer des poires. En créer un qui peut regarder un chien et un chat et dire où se trouve le chien et où se trouve le chat est incroyablement difficile. Créer une IA capable de battre un grand maître ? Fabriqué. Essayez maintenant de lui faire lire un paragraphe d'un livre de six ans et de comprendre non seulement les mots, mais aussi leur sens. Google dépense des milliards de dollars pour essayer de le faire. Avec des choses complexes - comme les calculs, le calcul des stratégies des marchés financiers, la traduction d'une langue - l'ordinateur s'en sort facilement, mais avec des choses simples - la vision, le mouvement, la perception - non. Comme l'a dit Donald Knuth, "l'IA fait maintenant à peu près tout ce qui nécessite de" penser ", mais elle ne peut pas faire face à ce que les humains et les animaux font sans réfléchir."
Lorsque vous réfléchissez aux raisons de cela, vous vous rendrez compte que des choses qui nous semblent simples à faire ne le semblent que parce qu'elles ont été optimisées pour nous (et les animaux) au cours de centaines de millions d'années d'évolution. Lorsque vous atteignez un objet, les muscles, les articulations, les os de vos épaules, coudes et mains effectuent instantanément de longues chaînes d'opérations physiques, synchrones avec ce que vous voyez, et déplacent votre bras en trois dimensions. Cela vous semble simple, car le logiciel idéal dans votre cerveau est responsable de ces processus. Cette astuce simple rend la procédure d'enregistrement d'un nouveau compte en saisissant un mot mal écrit (captcha) simple pour vous et l'enfer pour un bot malveillant. Pour notre cerveau, ce n'est pas difficile: il suffit de pouvoir voir.
D'un autre côté, multiplier de grands nombres ou jouer aux échecs sont de nouvelles activités pour les créatures biologiques, et nous n'avons pas eu assez de temps pour les améliorer (pas des millions d'années), il n'est donc pas difficile pour un ordinateur de nous vaincre. Pensez-y: Préférez-vous créer un programme qui peut multiplier de grands nombres, ou un programme qui reconnaît la lettre B dans ses millions d'orthographe, dans les polices les plus imprévisibles, à la main ou avec un bâton dans la neige ?
Un exemple simple: lorsque vous regardez ceci, vous et votre ordinateur réalisez que ce sont des carrés alternés de deux teintes différentes.
Mais si vous supprimez le noir, vous décrirez immédiatement l'image complète: cylindres, plans, angles tridimensionnels, mais un ordinateur ne peut pas.
Il décrira ce qu'il voit comme une variété de formes bidimensionnelles dans différentes nuances, ce qui, en principe, est vrai. Votre cerveau fait une tonne de travail pour interpréter la profondeur, le jeu d'ombres, la lumière dans une image. Dans l'image ci-dessous, l'ordinateur verra un collage bidimensionnel blanc-gris-noir, alors qu'en réalité il y a une pierre tridimensionnelle.
Et ce que nous venons de décrire n'est que la pointe de l'iceberg lorsqu'il s'agit de comprendre et de traiter l'information. Pour atteindre le même niveau avec une personne, un ordinateur doit comprendre la différence entre les expressions faciales subtiles, la différence entre le plaisir, la tristesse, la satisfaction, la joie et pourquoi Chatsky est bon et pas Molchalin.
Que faire?
La première étape de la création d'AGI: augmenter la puissance de calcul
L'une des choses nécessaires pour qu'AGI soit possible est d'augmenter la puissance du matériel informatique. Si un système d'intelligence artificielle doit être aussi intelligent que le cerveau, il doit correspondre au cerveau en termes de puissance de traitement brute.
Une façon d'augmenter cette capacité consiste à utiliser le nombre total de calculs par seconde (OPS) que le cerveau peut produire, et vous pouvez déterminer ce nombre en calculant le nombre maximal d'OPS pour chaque structure cérébrale et en les rassemblant.
Ray Kurzweil a conclu qu'il suffit de prendre une estimation professionnelle de l'OPS d'une structure et de son poids par rapport au poids de l'ensemble du cerveau, puis de la multiplier proportionnellement pour obtenir l'estimation globale. Cela semble un peu douteux, mais il l'a fait plusieurs fois avec différentes estimations de différentes zones et a toujours obtenu le même nombre: de l'ordre de 10 ^ 16, ou 10 quadrillions d'OPS.
Le supercalculateur le plus rapide au monde, le chinois Tianhe-2, a déjà dépassé ce nombre: il est capable d'effectuer environ 32 quadrillions d'opérations par seconde. Mais Tianhe-2 occupe 720 mètres carrés d'espace, consomme 24 mégawatts d'énergie (notre cerveau ne consomme que 20 watts) et coûte 390 millions de dollars. Nous ne parlons pas d'utilisation commerciale ou généralisée.
Kurzweil suggère que nous évaluions la santé des ordinateurs par le nombre d'OPS que vous pouvez acheter pour 1 000 $. Lorsque ce nombre atteint le niveau humain - 10 quadrillions d'OPS - l'AGI pourrait bien devenir une partie de nos vies.
La loi de Moore - la règle historiquement fiable selon laquelle la puissance de calcul maximale des ordinateurs double tous les deux ans - implique que le développement de la technologie informatique, comme le mouvement de l'homme à travers l'histoire, croît de façon exponentielle. Si nous comparons cela avec la règle des mille dollars de Kurzweil, nous pouvons désormais nous permettre 10 000 milliards d'OPS pour 1 000 dollars.
Les ordinateurs à 1 000 $ contournent le cerveau d'une souris dans leur puissance de calcul et sont mille fois plus faibles que les humains. Cela semble être un mauvais indicateur jusqu'à ce que nous nous souvenions que les ordinateurs étaient mille milliards de fois plus faibles que le cerveau humain en 1985, un milliard en 1995 et un million en 2005. D'ici 2025, nous devrions avoir un ordinateur abordable qui rivalise avec la puissance de calcul de notre cerveau..
Ainsi, la puissance brute nécessaire à l'AGI est déjà techniquement disponible. D'ici 10 ans, il quittera la Chine et se répandra dans le monde entier. Mais la puissance de calcul seule ne suffit pas. Et la question suivante est: comment fournir une intelligence au niveau humain avec tout ce pouvoir ?
La deuxième étape de la création d'AGI: lui donner de l'intelligence
Cette partie est assez délicate. En vérité, personne ne sait vraiment comment rendre une machine intelligente - nous essayons toujours de comprendre comment créer une intelligence de niveau humain qui peut distinguer un chat d'un chien, isoler un B dessiné dans la neige et analyser un film de second ordre. Cependant, il existe une poignée de stratégies avant-gardistes, et à un moment donné, l'une d'entre elles devrait fonctionner.
1. Répétez le cerveau
Cette option est comme si les scientifiques étaient dans la même classe qu'un enfant très intelligent et doué pour répondre aux questions; et même s'ils essaient diligemment de comprendre la science, ils ne sont même pas près de rattraper l'enfant intelligent. En fin de compte, ils décident: au diable, il suffit d'écrire les réponses à ses questions. C'est logique: nous ne pouvons pas construire un ordinateur super complexe, alors pourquoi ne pas prendre comme base l'un des meilleurs prototypes de l'univers: notre cerveau ?
Le monde scientifique travaille dur pour comprendre comment fonctionne notre cerveau et comment l'évolution a créé une chose si complexe. Selon les estimations les plus optimistes, ils ne pourront le faire que d'ici 2030. Mais une fois que nous comprenons tous les secrets du cerveau, son efficacité et sa puissance, nous pouvons être inspirés par ses méthodes de création technologique. Par exemple, l'une des architectures informatiques qui imite le fonctionnement du cerveau est un réseau de neurones. Elle part d'un réseau de transistors "neurones" reliés les uns aux autres par entrée et sortie, et ne sait rien - comme un nouveau-né. Le système "apprend" en essayant d'accomplir des tâches, de reconnaître un texte manuscrit, etc. Les connexions entre transistors sont renforcées en cas de réponse correcte et affaiblies en cas de réponse incorrecte. Après de nombreux cycles de questions et réponses, le système forme des armures neuronales intelligentes optimisées pour des tâches spécifiques. Le cerveau apprend d'une manière similaire, mais d'une manière beaucoup plus complexe, et alors que nous continuons à l'étudier, nous découvrons de nouvelles façons incroyables d'améliorer les réseaux neuronaux.
Le plagiat encore plus extrême implique une stratégie appelée émulation complète du cerveau. Objectif: découper un vrai cerveau en fines tranches, scanner chacune d'elles, puis reconstruire avec précision le modèle 3D à l'aide d'un logiciel, puis le traduire en un ordinateur puissant. Ensuite, nous aurons un ordinateur qui pourra officiellement faire tout ce que le cerveau peut faire: il lui suffit d'apprendre et de collecter des informations. Si les ingénieurs réussissent, ils peuvent imiter un vrai cerveau avec une précision si incroyable qu'une fois téléchargé sur un ordinateur, l'identité et la mémoire réelles du cerveau resteront intactes. Si le cerveau appartenait à Vadim avant sa mort, l'ordinateur se réveillera dans le rôle de Vadim, qui sera désormais un AGI de niveau humain, et nous, à notre tour, transformerons Vadim en un ISI incroyablement intelligent, qu'il va certainement être ravi de.
Jusqu'où sommes-nous pour imiter complètement le cerveau ? En vérité, nous venons d'émuler le cerveau d'un ver plat millimétrique, qui contient 302 neurones au total. Le cerveau humain contient 100 milliards de neurones. Si essayer d'atteindre ce nombre vous semble futile, pensez au taux de croissance exponentiel des progrès. La prochaine étape sera l'émulation du cerveau de la fourmi, puis il y aura une souris, et puis une personne sera à portée de main.
2. Essayez de suivre la piste de l'évolution
Eh bien, si nous décidons que les réponses d'un enfant intelligent sont trop complexes pour être annulées, nous pouvons essayer de suivre ses traces d'apprentissage et de préparation aux examens. Que savons-nous? Il est tout à fait possible de construire un ordinateur aussi puissant qu'un cerveau - l'évolution de notre propre cerveau l'a prouvé. Et si le cerveau est trop complexe à imiter, nous pouvons essayer d'imiter l'évolution. Le fait est que, même si nous pouvons imiter le cerveau, cela pourrait être comme essayer de construire un avion en agitant ridiculement les mains qui imitent les mouvements des ailes des oiseaux. Le plus souvent, nous parvenons à créer de bonnes machines en utilisant une approche orientée machine, plutôt qu'une imitation exacte de la biologie.
Comment simuler l'évolution pour construire AGI ? Cette méthode appelée « algorithmes génétiques » devrait fonctionner comme ceci: il doit y avoir un processus productif et son évaluation, et il se répétera encore et encore (de la même manière que les créatures biologiques « existent » et « sont évaluées » par leur capacité reproduire). Un groupe d'ordinateurs effectuera des tâches, et les plus performants d'entre eux partageront leurs caractéristiques avec d'autres ordinateurs, "sortie". Les moins performants seront impitoyablement jetés dans la poubelle de l'histoire. Grâce à de très nombreuses itérations, ce processus de sélection naturelle produira de meilleurs ordinateurs. Le défi réside dans la création et l'automatisation des cycles de sélection et d'évaluation afin que le processus d'évolution se poursuive tout seul.
L'inconvénient de copier l'évolution est qu'il faut des milliards d'années à l'évolution pour faire quelque chose, et nous n'avons besoin que de quelques décennies pour le faire.
Mais nous avons beaucoup d'avantages, contrairement à l'évolution. Premièrement, il n'a pas le don de prévoyance, il fonctionne par hasard - il donne des mutations inutiles, par exemple, - et nous pouvons contrôler le processus dans le cadre des tâches assignées. Deuxièmement, l'évolution n'a pas de but, y compris le désir d'intelligence - parfois dans l'environnement une certaine espèce ne gagne pas au détriment de l'intelligence (car cette dernière consomme plus d'énergie). De notre côté, nous pouvons viser à accroître l'intelligence. Troisièmement, pour choisir l'intelligence, l'évolution doit apporter un certain nombre d'améliorations tierces - telles que la redistribution de la consommation d'énergie par les cellules - nous pouvons simplement supprimer l'excès et utiliser l'électricité. Sans aucun doute, nous serons plus rapides que l'évolution - mais encore une fois, il n'est pas clair si nous pouvons la surpasser.
3. Laissez les ordinateurs à eux-mêmes
C'est la dernière chance lorsque les scientifiques sont complètement désespérés et essaient de programmer un programme d'auto-développement. Cependant, cette méthode peut s'avérer être la plus prometteuse de toutes. L'idée est que nous construisons un ordinateur qui aura deux compétences de base: l'IA de recherche et les changements de code en soi - ce qui lui permettra non seulement d'en apprendre plus, mais aussi d'améliorer sa propre architecture. Nous pouvons former des ordinateurs à devenir leurs propres ingénieurs informaticiens afin qu'ils puissent se développer eux-mêmes. Et leur tâche principale sera de trouver comment devenir plus intelligent. Nous en parlerons plus en détail.
Tout cela peut arriver très bientôt
Les progrès rapides du matériel et l'expérimentation de logiciels s'exécutent en parallèle, et l'AGI peut émerger rapidement et de manière inattendue pour deux raisons principales:
1. La croissance exponentielle est intense, et ce qui semble être les pas d'un escargot peut rapidement se transformer en sauts de sept milles - ce-g.webp
image animée: hi-news.ru/wp-content/uploads/2015/02/gif.gif
2. En ce qui concerne les logiciels, les progrès peuvent sembler lents, mais une percée change instantanément la vitesse de progression (bon exemple: à l'époque de la vision du monde géocentrique, il était difficile pour les gens de calculer le travail de l'univers, mais le découverte de l'héliocentrisme a rendu tout beaucoup plus facile). Ou, lorsqu'il s'agit d'un ordinateur qui s'améliore, les choses peuvent sembler extrêmement lentes, mais parfois une seule modification du système le sépare d'une efficacité mille fois supérieure à une version humaine ou héritée.
La route d'AGI à ISI
À un moment donné, nous aurons certainement AGI - intelligence artificielle générale, des ordinateurs avec un niveau d'intelligence humaine général. Les ordinateurs et les humains vivront ensemble. Ou ils ne le feront pas.
Le fait est qu'AGI avec le même niveau d'intelligence et de puissance de calcul que les humains aura toujours des avantages significatifs sur les humains. Par exemple:
Équipement
La vitesse. Les neurones du cerveau fonctionnent à 200 Hz, tandis que les microprocesseurs modernes (qui sont nettement plus lents que ce que nous obtiendrons au moment de la création de l'AGI) fonctionnent à une fréquence de 2 GHz, soit 10 millions de fois plus vite que nos neurones. Et les communications internes du cerveau, qui peuvent se déplacer à une vitesse de 120 m/s, sont nettement inférieures à la capacité des ordinateurs à utiliser l'optique et la vitesse de la lumière.
Taille et rangement. La taille du cerveau est limitée par la taille de nos crânes, et elle ne peut pas s'agrandir, sinon les communications internes à une vitesse de 120 m/s prendront trop de temps pour voyager d'une structure à une autre. Les ordinateurs peuvent s'étendre à n'importe quelle taille physique, utiliser plus de matériel, augmenter la RAM, la mémoire à long terme - tout cela dépasse nos capacités.
Fiabilité et durabilité. Non seulement la mémoire informatique est plus précise que la mémoire humaine. Les transistors informatiques sont plus précis que les neurones biologiques et sont moins sujets à la détérioration (et en effet, ils peuvent être remplacés ou réparés). Le cerveau des gens se fatigue plus vite, tandis que les ordinateurs peuvent fonctionner sans interruption, 24 heures sur 24, 7 jours sur 7.
Logiciel
Possibilité d'édition, de modernisation, un plus large éventail de possibilités. Contrairement au cerveau humain, un programme informatique peut être facilement corrigé, mis à jour et expérimenté. Les domaines dans lesquels le cerveau humain est faible peuvent également être améliorés. Le logiciel humain pour la vision est superbement conçu, mais d'un point de vue technique, ses capacités sont encore très limitées - nous ne voyons que dans le spectre visible de la lumière.
Capacité collective. Les humains sont supérieurs aux autres espèces en termes de grande intelligence collective. En commençant par le développement du langage et la formation de grandes communautés, en passant par les inventions de l'écriture et de l'imprimerie, et maintenant dynamisée par des outils tels qu'Internet, l'intelligence collective des personnes est une raison importante pour laquelle nous pouvons nous appeler la couronne de l'évolution. Mais les ordinateurs seront encore meilleurs. Le réseau mondial d'intelligences artificielles travaillant sur un seul programme, constamment synchronisé et auto-développé, vous permettra d'ajouter instantanément de nouvelles informations à la base de données, où que vous soyez. Un tel groupe sera également capable de travailler vers un objectif dans son ensemble, car les ordinateurs ne souffrent pas de dissidence, de motivation et d'intérêt personnel comme le font les humains.
L'IA, qui est susceptible de devenir AGI grâce à l'auto-amélioration programmée, ne considérera pas "l'intelligence au niveau humain" comme une étape importante - cette étape n'est importante que pour nous. Il n'aura aucune raison de s'arrêter à ce niveau douteux. Et étant donné les avantages que même l'IAG au niveau humain aura, il est tout à fait évident que l'intelligence humaine sera pour elle un bref éclair dans la course à la supériorité intellectuelle.
Cette évolution des événements peut nous surprendre beaucoup, beaucoup. Le fait est que, de notre point de vue, a) le seul critère qui nous permet de déterminer la qualité de l'intelligence est l'intelligence des animaux, qui est inférieure à la nôtre par défaut; b) pour nous, les gens les plus intelligents sont TOUJOURS plus intelligents que les plus stupides. Comme ça:
C'est-à-dire que pendant que l'IA essaie juste d'atteindre notre niveau de développement, nous voyons comment elle devient plus intelligente, se rapprochant du niveau de l'animal. Lorsqu'il arrivera au premier niveau humain - Nick Bostrom utilise le terme « idiot du pays » - nous serons ravis: « Wow, il est déjà comme un crétin. Frais! La seule chose est que dans le spectre général de l'intelligence des gens, de l'idiot du village à Einstein, la portée est petite - donc, une fois que l'IA aura atteint le niveau de l'idiot et deviendra AGI, elle deviendra soudain plus intelligente que Einstein.
Et que va-t-il se passer ensuite ?
Explosion d'intelligence
J'espère que vous l'avez trouvé intéressant et amusant, car à partir de ce moment, le sujet dont nous discutons devient anormal et effrayant. Nous devrions faire une pause et nous rappeler que chaque fait énoncé ci-dessus et au-delà est de la vraie science et de vraies prédictions pour l'avenir faites par les penseurs et les scientifiques les plus éminents. Gardez juste à l'esprit.
Ainsi, comme nous l'avons indiqué ci-dessus, tous nos modèles modernes pour atteindre l'IAG incluent l'option lorsque l'IA s'améliore. Et dès qu'il devient AGI, même les systèmes et les méthodes avec lesquels il a grandi deviennent suffisamment intelligents pour s'améliorer - s'ils le souhaitent. Un concept intéressant émerge: l'auto-amélioration récursive. Cela fonctionne comme ça.
Un certain système d'IA à un certain niveau - disons, un idiot du village - est programmé pour améliorer sa propre intelligence. S'étant développé - disons, au niveau d'Einstein - un tel système commence déjà à se développer avec l'intellect d'Einstein, il prend moins de temps à se développer et les sauts sont de plus en plus grands. Ils permettent au système de surpasser n'importe quelle personne, devenant de plus en plus. Avec son développement rapide, AGI atteint des sommets célestes dans son intelligence et devient un système ISI superintelligent. Ce processus s'appelle une explosion d'intelligence, et c'est l'exemple le plus clair de la loi des retours accélérés.
Les scientifiques discutent de la rapidité avec laquelle l'IA atteindra le niveau AGI - la plupart pensent que nous obtiendrons l'AGI d'ici 2040, dans seulement 25 ans, ce qui est très, très peu par rapport aux normes de développement technologique. En poursuivant la chaîne logique, il est facile de supposer que la transition d'AGI à ISI se fera également extrêmement rapidement. Comme ça:
« Il a fallu des décennies pour que le premier système d'IA atteigne son plus bas niveau d'intelligence générale, mais c'est finalement arrivé. L'ordinateur est capable de comprendre le monde qui l'entoure comme une personne de quatre ans. Soudain, littéralement une heure après avoir atteint ce jalon, le système produit une grande théorie de la physique qui combine la relativité générale et la mécanique quantique, ce qu'aucun humain ne peut faire. Au bout d'une heure et demie, l'IA devient ISI, 170 000 fois plus intelligente que n'importe quel humain. »
Nous n'avons même pas les bons termes pour décrire une superintelligence de cette ampleur. Dans notre monde, "intelligent" signifie une personne avec un QI de 130, "stupide" - 85, mais nous n'avons pas d'exemples de personnes avec un QI de 12 952. Nos règles ne sont pas conçues pour ça.
L'histoire de l'humanité nous le dit clairement et clairement: avec l'intellect viennent le pouvoir et la force. Cela signifie que lorsque nous créerons une superintelligence artificielle, ce sera la créature la plus puissante de l'histoire de la vie sur Terre, et tous les êtres vivants, y compris les humains, seront entièrement en son pouvoir - et cela peut arriver dans vingt ans.
Si nos maigres cerveaux étaient capables de proposer le Wi-Fi, alors quelque chose de plus intelligent que nous cent, mille, un milliard de fois peut facilement calculer la position de chaque atome de l'univers à un moment donné. Tout ce qui peut être appelé magie, tout pouvoir attribué à une divinité omnipotente - tout cela sera à la disposition de l'ISI. Créer une technologie pour inverser le vieillissement, traiter n'importe quelle maladie, éliminer la faim et même la mort, contrôler le temps - tout deviendra soudainement possible. Une fin instantanée à toute vie sur Terre est également possible. Les personnes les plus intelligentes de notre planète s'accordent à dire que dès que la superintelligence artificielle apparaîtra dans le monde, elle marquera l'apparition de Dieu sur Terre. Et une question importante demeure.
