AI Weekly: les procureurs de l'IA et les neurones jouant au pong ont fermé 2021

janvier 3, 2022 Par admin 0
AI Weekly: les procureurs de l'IA et les neurones jouant au pong ont fermé 2021

Crédit image: Getty Images


Écoutez les DSI, les CTO et d'autres cadres supérieurs et cadres supérieurs sur les stratégies de données et d'IA lors du Sommet sur l'avenir du travail du 12 janvier 2022. Apprendre encore plus


Au cours de la semaine qui a clôturé 2021, le cycle de l'actualité technologique s'est arrêté, comme c'est généralement le cas. Même une industrie aussi rapide que l'IA a parfois besoin d'un sursis – d'autant plus qu'une nouvelle variante de COVID-19 bouleverse les plans et les grandes conférences.

Mais ce n'est pas le cas. dire que la fin décembre n'a pas été mouvementée.

L'une des histoires les plus discutées est venue du South China Morning Post (SCMP), qui a décrit un « procureur de l'IA » développé par des chercheurs chinois qui auraient pu identifier des crimes et porter plainte « avec une précision de 97% ». Le système – qui a été formé sur 1 000 «caractéristiques» provenant de 17 000 cas réels de crimes de 2015 à 2020, comme le jeu, la conduite imprudente, le vol et la fraude – recommande des peines accompagnées d'une brève description textuelle. Il a déjà été mis à l'essai au Parquet populaire de Shanghai Pudong, le plus grand bureau du procureur de district de Chine., selon le SCMP. comme certaines parties des États-Unis, a adopté les technologies de la criminalité prédictive – poursuit un remplaçant de la boîte noire pour les juges humains. Mais les implications sont néanmoins inquiétantes pour ceux qui pourraient être soumis au jugement du procureur de l'IA, étant donné à quel point les algorithmes inéquitables dans le système de justice ont été historiquement démontrés.

Publié en dernier En décembre, une étude menée par des chercheurs de Harvard et de l'Université du Massachusetts a révélé que l'évaluation de la sécurité publique (PSA), un outil d'évaluation des risques que les juges peuvent choisir d'utiliser pour décider si un accusé doit être libéré avant un procès, a tendance à recommander la condamnation c'est trop sévère. De plus, le PSA est susceptible d'imposer une caution en espèces aux hommes arrêtés par rapport aux femmes arrêtées, selon les chercheurs – un signe potentiel de préjugé sexiste.

Le système judiciaire américain a une histoire d'adoption d'outils d'IA qui se sont révélés plus tard présenter des préjugés contre les accusés appartenant à certains groupes démographiques. Le plus tristement célèbre d'entre eux est peut-être le Profil de gestion des délinquants correctionnels pour les sanctions alternatives (COMPAS) de Northpointe, qui est conçu pour prédire la probabilité qu'une personne devienne un récidiviste. Un rapport de ProPublica a révélé que COMPAS était beaucoup plus susceptible de juger à tort les accusés noirs comme étant plus à risque de récidive que les accusés blancs, tout en signalant en même temps les accusés blancs comme à faible risque plus souvent que les accusés noirs.

Avec de nouvelles recherches montrant que même la formation d'outils de police prédictifs de manière à réduire les biais a peu d'effet, il est devenu clair – si ce n'était pas avant – que le déploiement de ces systèmes de manière responsable aujourd'hui est irréalisable. C'est peut-être pourquoi certains des premiers à adopter des outils de police prédictifs, comme les services de police de Pittsburgh et de Los Angeles, ont annoncé qu'ils ne les utiliseraient plus.

Mais avec une loi moins scrupuleuse l'application de la loi, les salles d'audience et les municipalités qui vont de l'avant, la réglementation dictée par la pression du public est peut-être le meilleur pari pour régner et établir des normes pour la technologie. Des villes comme Santa Cruz et Oakland ont carrément interdit les outils de police prédictive, tout comme la Nouvelle-Orléans. Et le groupe à but non lucratif Fair Trials demande à l'Union européenne d'inclure une interdiction des outils de prédiction de la criminalité dans son cadre réglementaire proposé pour l'IA. ,  » Ben Winters, le créateur d'un rapport de l'Electronic Privacy Information Center qui a qualifié les outils d'évaluation des risques avant le procès de grève contre les libertés individuelles, a déclaré dans un récent communiqué. «Mais nous dirions absolument que là où ils sont utilisés, ils devraient être réglementés assez fortement.»

    Une nouvelle approche de l'IA

      Il n'est pas clair si même les systèmes d'IA les plus sophistiqués comprennent le monde de la façon dont les humains faire. C'est un autre argument en faveur de la réglementation de la police prédictive, mais une entreprise, Cycorp – qui a été présentée par Business Insider cette semaine – cherche à codifier les connaissances humaines générales afin que l'IA puisse en faire usage.

      Le logiciel prototype de Cycorp, en développement depuis près de 30 ans, n'est pas programmé au sens traditionnel du terme. Cycorp peut faire des déductions qu'un auteur pourrait s'attendre à ce qu'un lecteur humain fasse. Ou il peut prétendre être un élève de sixième année confus, en chargeant les utilisateurs de l'aider à apprendre les mathématiques en sixième année.

      Existe-t-il un chemin vers l'IA avec une intelligence de niveau humain ? C'est la question à un million de dollars. Des experts comme le vice-président et scientifique en chef de l'IA pour Facebook, Yann LeCun, et le célèbre professeur d'informatique et expert en réseaux de neurones artificiels, Yoshua Bengio, ne croient pas que ce soit à portée de main, mais d'autres ne sont pas d'accord. Une direction prometteuse est le raisonnement neuro-symbolique, qui fusionne l'apprentissage et la logique pour rendre les algorithmes « plus intelligents ». L'idée est que le raisonnement neuro-symbolique pourrait aider à incorporer le raisonnement de bon sens et la connaissance du domaine dans les algorithmes pour, par exemple, identifier les objets dans une image.

      De nouveaux paradigmes pourraient être mis en place l'horizon, comme des « cerveaux synthétiques » faits de cellules vivantes. Plus tôt ce mois-ci, des chercheurs de Cortical Labs ont créé un réseau de neurones dans une parabole qui a appris à jouer à Pong plus rapidement qu'un système d'IA. Les neurones n'étaient pas aussi doués pour Pong que le système, mais il ne leur a fallu que cinq minutes pour maîtriser la mécanique contre 90 minutes pour l'IA.

      Pong ne reflète guère la complexité de le vrai monde. Mais en tandem avec du matériel tourné vers l'avenir comme les puces neuromorphiques et la photonique, ainsi qu'avec de nouvelles techniques et architectures de mise à l'échelle, l'avenir s'annonce prometteur pour une IA plus performante, potentiellement humaine. La réglementation se rattrapera, avec un peu de chance. Nous avons vu un aperçu des conséquences – y compris les arrestations injustifiées, le recrutement sexiste et les notes erronées – si ce n'est pas le cas.

      Pour la couverture de l'IA, envoyez des conseils d'actualité à Kyle Wiggers – et assurez-vous de vous abonner à la newsletter AI Weekly et de mettre en signet notre chaîne d'IA, The Machine.

      Merci d'avoir lu,

      )

      Kyle Wiggers

      Rédacteur AI

    VentureBeat

    La mission de VentureBeat est d'être une place publique numérique permettant aux décideurs techniques d'acquérir des connaissances sur la technologie transformatrice et d'effectuer des transactions. Notre site fournit des informations essentielles sur les technologies et les stratégies de données pour vous guider dans la gestion de vos organisations. Nous vous invitons à devenir membre de notre communauté, pour accéder à :

        des informations à jour sur les sujets qui vous intéressent
          nos newsletters

      • pensée fermée- contenu leader et accès à prix réduit à nos événements prisés, tels que Transform 2021 : Apprendre encore plus
      • fonctionnalités de mise en réseau, et plus

    Devenir membre