Peux-t-on avoir peur de l’Intelligence Artificielle ?

Les réponses de chatgpt sont plus sensées que ce que bon nombre d'humains ont l'habitude de dire.

 

C'est un très bon point dont la problématique est abordée ici : Our servers are powered by 100% Green Energy – No Gods No Masters Network

Google et Microsoft prévoient inclure l'IA dans leur moteur de recherche, ce qui veut dire que chaque recherche consommera beaucoup plus de resources qu'avant. Des experts prédisent déjà que juste le fait d'inclure l'IA dans les moteurs de recherche ferait bondir les émissions de co2 des datacenters de 5 fois, ce qui est énorme
The Generative AI Race Has a Dirty Secret

Le type d'IA qu'on utilise est très rudimentaire, rien de comparable avec ChatGPT et consorts

Avec l'IA tout est possible, on ne fait que commencer à découvrir les possibilités. J'ai vu que des avocats travaillent sur un IA pour scanner des centaines de documents légaux et trouver les éléments clés pour construire une défense légale. Rendre ce genre d'outil dispo gratuitement pourrait permettre d'augmenter l'accessibilité à l'aide juridique pour les personnes réprimées judiciairement.

On pourrait même développer un ChatGPT anarchiste, il suffit d'entrainer l'IA avec toute la littérature anarchiste dispo sur des sites comme theanarchistlibrary.org. Après on pourrait poser n'importe quelle question et obtenir une réponse comme si c'était écrit par Kropotkine ou Bakounine. L'utilité serait semblable à la FAQ anarchiste pour obtenir des réponses rapides aux questions fréquentes, ou carrément produire un article sur un sujet donné en faisant la synthèse des idées anarchistes exprimés dans les bouquins.

Il y a probablement de meilleures idées en réfléchissant à la question. Je ne serais pas surpris que d'ici quelques années l'équipe technique trouve une nouvelle idée pour concevoir un nouveau outil militant à base d'IA.

 

Euh, je ne comprends pas pourquoi tu cites ceci. Évidement que le libertarisme est une aberration, les libertariens sont des capitalistes encore plus à droite que la droite américaine. Tu n'es pas d'accord ?

La renommée de Chomsky en tant que linguiste est indéniable. Pour son anarchisme, je l'ai souvent critiqué sur ce forum.

Un seul cas isolé de faits divers ne représente pas un argument valable pour interdire l'IA. On parle ici littéralement d'un utilisateur sur un million.

Faudrait-il aussi interdire des jeux vidéos car un fou a fait une tuerie de masse dans une école américaine ?

Comme le fait remarquer @Damona les développeurs de ChatGPT ont fait une série d'updates pour bien baliser les contextes de conversations et éviter les dérives comme les sujets de suicide. Après, en lisant l'article, on voit bien que la cause du problème relève plus de la santé mentale que de l'IA :
« Il évoque l’idée de se sacrifier si Eliza accepte de prendre soin de la planète et de sauver l’humanité grâce à l’intelligence artificielle ».

Si quelqu'un est mentalement vulnérable au point de se suicider après une conversation avec l'IA, imaginez à quel point on peut se faire dire des choses encore pire en fréquentant les forums web avec de vrais humains. Les histoires de personnes qui se suicident après du cyber-harcèlement sont nombreuses, et c'est pas une raison pour interdire les forums web.

Tiens parlons en, de ces "experts". Qui sont ils ? L'article parle de "centaines d'experts" mais quand on vérifie la source d'origine, il s'agit en fait d'une pétition ouverte que n'importe qui peut signer (et qui a récolté moins de 3000 signatures). De plus le texte ne fait aucune mention du mot "expert" dans ce contexte.

Voici la fameuse pétition en question : Pause Giant AI Experiments: An Open Letter - Future of Life Institute

Les seuls 8 noms qui sont mentionnés sont tous pour la plupart des dirigeants de compagnies d'IA ou des chercheurs qui travaillent eux-mêmes à concevoir des IA.

Il est d'ailleurs clairement indiqué sur la pétition :

Et ils réclament simplement une pause de ChatGPT pendant 6 mois le temps de mieux encadrer. Bref il ne s'agit pas ici de s'opposer à l'IA mais bien de l'améliorer.

 

La fameuse pétition a cité des "experts" sans leur consentement et 4 d'entre eux dénoncent maintenant la pétition, accusant ses auteurs de « alarmisme et de battage médiatique sur l'IA ».

AI experts disown Musk-backed campaign citing their research


Certains des experts cités n'ont jamais signés. Plusieurs signatures sont fausses, même le site de la pétition l'admet :

FAQs about FLI’s Open Letter Calling for a Pause on Giant AI Experiments - Future of Life Institute

 

C'est pas du tout ce que j'ai dit hein, on n'est pas dans Terminator.
Nous sommes incapables de produire une intelligence possédant des intentions.

Non, on doit se méfier de nous-mêmes. La technologie ne fait encore que ce qu'on lui demande et c'est pas prêt de changer.

 

Là on est limite dans logorrhée réactionnaire. L'informatique a aussi permis de réduire la pénibilité de certaines tâches, de confier celles hautement répétitives à des machines et continue de le faire. Internet a permis de rapprocher les gens à tel point qu'on peut discuter en instantané à des gens à l'autre bout du monde. Ça a également permis des progrès en mathématiques, en science en général en facilitant les calculs comme jamais. Ça permet aussi de modéliser l'intelligence et ainsi parvenir à une meilleure compréhension de nous mêmes. Etc, etc...
Tu parles également du téléphone et là encore je ne vois vraiment pas en quoi ce serait négatif. En revanche comment on utilise ces outils et notamment on pourrait parler des réseaux sociaux, là, c'est autre chose.

 

Ce n'est pas "le monde" qui produit des technologies. Ce sont des humains. Et non elles ne servent pas "qu'à nous asservir". Je doute même que certaines aient ce but.

 

Oui enseigne moi la face cachée de ce monde toi à qui on ne la fait pas.

Mais je n'ai pas dit que ça ne servait pas le pouvoir économique, j'ai dit que ce n'était pas fait pour asservir. Bien sûr qu'une entreprise finance rarement une innovation qu'elle ne pense pas rentable. Mais être rentable et asservir sont deux choses differentes. Quand des entreprises investissent dans la location de trottinette électrique c'est pas pour asservir les piétons.

On n'a pas attendu les IA pour ça.