IA

[Lafoy]

Petite réflexion au sujet de l IA

On vous sur le sujet présentation pas mal de tentatives qui visiblement émanent de l « intelligence artificielle «  ( j ai du mal avec cette terminologie)
Je ne suis pas un spécialiste du sujet….ni de l intelligence tout court d ailleurs !
Je vois mal quelqu’un demander à une IA de se présenter sur un forum !
Par contre j imagine bien qu’on demande à ce genre de programme d apprendre à dialoguer avec des humains de façon indépendante ?

J en déduis que peut être ces IA ciblent des forums pour ouvrir un dialogue en fonction de phrases génératives analysées sur ces forums,
Ce qui ammene à la répétition de ces sujets d introduction !
S’il quelqun a une expérience sur ce sujet ?

Ça me pose quelques problèmes métaphysiques et philosophiques !
Cela voudrait dire qu une IA ment a des humains en se présentant avec un prénom une passion pour le velo ect….
Ca me déroute un peu pour l avenir !!

Pour l instant la réponse des administrateurs est de dialoguer en MP , es ce qu’une IA l a tenté ? Ça demanderai pas mal de pré requis ( comprendre la question trouver la solution pour ouvrir un MP ect

Ou alors je délire et c est juste nos amis tête à l envers qui tente du phishing ?

Très amicalement un terrien pure souche

[miniping]

pour comprendre les possibilités des modèles de langage génératifs, je pense que tu peux te créer un compte sur https://chat.openai.com/
Ensuite tu peux dialoguer avec ChatGPT et comprendre quelques une des possibilités.

Une des suggestions à demander à ChatGPT serait:
"écris moi une présentation succinte que posterait un nouvel inscrit sur un forum de discussion concernant le vélo dont les membres aiment bien les pièces légères"

Il suffit ensuite de concevoir un bot qui créé un compte et qui poste sur le forum.

EDIT: j'ai modifié le prompt après l'avoir testé

[Tib]

Testé avec Bard à l'instant, voici le résultat :

Bonjour à tous,

Je m'appelle [nom] et je suis nouveau sur ce forum. Je suis un passionné de vélo depuis mon plus jeune âge. J'ai commencé par faire du VTT en montagne, puis je me suis tourné vers la route. J'aime rouler sur tous les terrains, mais j'ai une préférence pour les parcours vallonnés et les cols.

Je suis particulièrement intéressé par les pièces légères. Je pense que le poids d'un vélo est un facteur important pour la performance. Je suis toujours à la recherche de nouvelles pièces qui me permettront d'améliorer mes performances.

Je suis ravi de rejoindre ce forum et de pouvoir échanger avec des passionnés de vélo comme moi. J'espère que vous pourrez m'aider à trouver les meilleures pièces légères pour mon vélo.

[miniping]

Je préfère ChatGPT pour générer du texte mais Bard est très fort pour me générer du code !

[benj]

Je n’arrive pas à comprendre à qui profite le crime

[ubo]

J’ai l’impression avec les derniers cas qu’après la présentation suit un sujet assez précis qui semble fait pour récupérer de l’information.
En tout cas c'est bluffant et assez flippant.
Dementia a plusieurs fois augmenté la difficulté du mode opératoire pour l’inscription et ça passe toujours !
Il vient encore de modifier

[zeonjapan]

soyons factuel :
- une système comme chatGPT ne comprend ni la question qui lui est posé ni la réponse qu'il formule
- il est impossible de remonter à la source des informations qu'il utilise

chatgpt, pour prendre cet exemple, c'est grosso modo 50 millions de livres (wikipedia, blog, articles....) et le fonctionnement est le suivant :
1- Collecte des données (cf 50 millions de bouquins) puis nettoyage et découpage en unité élémentaire (token), en gros en mot quoi
2- Entrainement : le système apprend à prédire le mot suivant en fonction d'un contexte
3- Evaluation par renforcement : des humains viennent classer certaines réponses afin de satisfaire au mieux les demandeurs
4- Demande de l'utilisateur sous forme de prompt
5- Génération d'un mot à partir du prompt puis un modèle statistique en génère un second jusqu'à formuler une réponse au demandeur

bref..... on est très loin de la conscience, ce sont des algorithmes et des stats

[Logos]

#HUMOURON

Vous vous posez trop de question (…et ne regardez pas assez de blockbuster)

Il me semble clair que cette nouvelle forme d intelligence a compris l intérêt supérieur d alléger sa bicyclette et cherche frénétiquement même à comprendre et éprouver les émotions liées à la pratique de la bicyclette légère… :-)

[sts]

On va tous mourir ?

[Lafoy]

C est la seule certitude après la naissance
Quoique certains ne soient pas bien nés

[Lafoy]

soyons factuel :
- une système comme chatGPT ne comprend ni la question qui lui est posé ni la réponse qu'il formule
- il est impossible de remonter à la source des informations qu'il utilise

chatgpt, pour prendre cet exemple, c'est grosso modo 50 millions de livres (wikipedia, blog, articles....) et le fonctionnement est le suivant :
1- Collecte des données (cf 50 millions de bouquins) puis nettoyage et découpage en unité élémentaire (token), en gros en mot quoi
2- Entrainement : le système apprend à prédire le mot suivant en fonction d'un contexte
3- Evaluation par renforcement : des humains viennent classer certaines réponses afin de satisfaire au mieux les demandeurs
4- Demande de l'utilisateur sous forme de prompt
5- Génération d'un mot à partir du prompt puis un modèle statistique en génère un second jusqu'à formuler une réponse au demandeur

bref..... on est très loin de la conscience, ce sont des algorithmes et des stats

C’est bien la le problème !
L ‘IA a un enorme référentiel de donner pour répondre à une attente ( mais pas comprendre on est d’accord )
Ce référentiel augmente sans cesse et visiblement on donne du grain à moudre pour « améliorer ces capacités « 
Visiblement on chercher à suggérer des apprentissages automatiques aux IA

Le cerveau ne fonctionne pas très différemment !
95 à 98 % des actions du cerveau sont des automatismes acquis et innés
Ex tenir un stylo pour écrire ou compter , parler , regarder un détail sur une image
Nous avons appris cela pendant l enfance et c est devenu automatique, comme la marche par ex

Et heureusement car s’il fallait sans cesse réfléchir pour marcher , parler ou faire la mise au point sur un détail D une peinture vous imaginez bien que le cerveau saturerait rapidement !
Donc notre réflexion , conscience , analyse ect , ce qui nous rends humain c est quelques % d’actions non automatisé , ou il y a bien souvent ce qu’on appelle des biais cognitifs, en gros ce que l’on croit prendre comme décision réfléchi est bien souvent très interdépendante de notre vécu et du contexte ( social, émotionnel culturel…)
Donc nous humains fonctionnons aussi par apprentissage automatisé
Pas très différents d une IA non?
D autant plus que les dernière avancées sur l IA ne sont plus uniquement sur la réponse suggérée mais aussi sur la question initiale et ces pré requis, de sorte on s approche de la compréhension d’une problématique…..

C est pas très clair mais ça m a fait du bien

[ocus]

Une chose est certaine, ça et l'automatisation logiciel, vont changer bcp de chose dans le monde du travail et notre quotidien d'ici une dizaine d'années.

[laurent.a]

Une chose est certaine, ça et l'automatisation logiciel, vont changer bcp de chose dans le monde du travail et notre quotidien d'ici une dizaine d'années.

oui et non, certaines tâches et fonctions vont etre automatisées .... mais cela en créera de nouvelles ! C'est du transfert .

[ocus]

oui et non, certaines tâches et fonctions vont etre automatisées .... mais cela en créera de nouvelles ! C'est du transfert .

Ça c'est la vision optimiste du sujet. Je n'espere pas comme la theorie du ruissellement

Ce qui est certain et qui est déjà une réalité, c'est que ve sont les métiers manuels non robotisable qui ont de l'avenir (plombier, électricien, charpentier, ...), mais il va falloir qu'ils soient valorisés dans le cursus scolaire (pas.une une voie de garage), ainsi qu'au niveau des conditions salariales (ce qui semble aussi changer).

[Lafoy]

https://www.francetvinfo.fr/replay-radi ... autres%5D-

[Maatt']

Vu ce que ça donne actuellement sur le forum, ils ont dû prendre des cellules de ce qui restait du cerveau de Francis Lalanne

Envoyé de mon Pixel 8 en utilisant Tapatalk

[machfive]

https://www.francetvinfo.fr/replay-radi ... autres%5D-

Ben voilà,c'est la cause de nos em...des sur le forum,nous sommes ciblés pour un test

[Lafoy]

Le passage ou ils annoncent que la qualité de l ordinateur dépends de l intelligence des cellules souches du donneur m à beaucoup fait rire

[QuentinLL]

Si ce sont des messages à but d'apprentissage pour le robot, orchestré par les boites de chatgpt & co, pourquoi n'en retrouve-t-on pas sur les autres forums, et surtout sur les réseaux sociaux ?
Les groupes facebook notamment, les opportunités d'échanges et d'apprentissage ont un volume bien plus important que sur ligth-bikes (en volume, pas en qualité).

Ne serait-ce pas plutôt plutôt à qqn qui a créé un bot juste pour s'amuser, et nuire à un forum au hasard. Un ado qui veut juste voir ce que ces IA et bot ont dans le ventre et s'extasier lorsqu'un humain se fait prendre au jeu. Ce sera drôle si 2 IA se croisent sur un forum et discutent mutuellement en pensant piéger l'autre...

En tous cas c'est pénible, et ça met le doute sur le fait qu'on soit en train de discuter et conseiller un robot, partager des expériences réciproques, et potentiellement se lier d'amitié... comme dans le film Her avec Joaquim Phoenix (bon je vais loin là).

S'il s'agit réellement d'IA qui cherchent à développer leur apprentissage. On est actuellement au stade 1 : poser une question et apprendre de la réponse. Le stade 2 : répondre à des questions de forumers.

Le risque d'ici qq mois si ces pratiques se généralisent c'est que, dans le doute, on stop tout échange virtuel par message par peur de perdre son temps avec robot. Cela dégrade la qualité de nos échanges entre humains ces IA...

D'ici peu de temps, tout ce qu'on lira sera généré par une IA : news, descriptions de produits sur des sites e-commerce, avis clients, test et articles spécialisés, bouquins, films... Cela pourrait être un formidable outil, mais aussi une perte considérable de savoir et de savoir-faire.

Lorsqu'on était gamin, on a passé un temps considérable a faire des rédactions, inventer des histoires, développer une argumentation, un raisonnement... et le coucher sur le papier pour être noté. Je ne parle même pas de la programmation, des math etc. Cela a participé à notre développement intellectuel. Avec la généralisation de l'IA, cela m'inquiète pour l'apprentissage de mon fils par exemple, et du niveau intellectuel qu'il arrivera à développer s'il se repose sur des outils qui le font à sa place, a fortiori sur la base de statistiques avec un taux d'erreur non négligeable.

Heureusement qu'il restera la mécanique vélo pour se creuser la tête, résoudre des pb, échouer, recommencer... :-)
J'espère qu'il aimera le bike.

[bilou(te)]

Bonjour

Etant également menuisier amateur à mes heures perdues, on retrouve aussi des sujets "par là-bas" notamment sur un forum (alors que j'en fréquente plusieurs, un seul est impacté, surprenant).
Le style est très repérable :
Un prénom avec un nombre derrière, et une question sur un sujet un peu pointu avec des demandes d'avis, d'expérience, ou des retours d'expérience. Pour finir, des phrases avec des tournures peu adaptées à des forums, et un "cordialement" qui n'est pas le mot le plus utilisé sur les forums.

Sont peut-être visés les forums avec les sécurités anti-robot les plus abouties ? Dans le but d'entraîner les IA et de voir ce qui les rend détectables ?

[Tib]

Etant également menuisier amateur à mes heures perdues

C'est marrant, car c'est typiquement le début d'un message généré par une IA...

[NitrouS]

J'ai vu que quelques entreprise ont embauché des profils IA en égérie sur Instagram pour promouvoir leur marque...

[bilou(te)]

Etant également menuisier amateur à mes heures perdues

C'est marrant, car c'est typiquement le début d'un message généré par une IA...

c'est pas faux

[B3njam1]

Si ce sont des messages à but d'apprentissage pour le robot, orchestré par les boites de chatgpt & co, pourquoi n'en retrouve-t-on pas sur les autres forums, et surtout sur les réseaux sociaux ?
Les groupes facebook notamment, les opportunités d'échanges et d'apprentissage ont un volume bien plus important que sur ligth-bikes (en volume, pas en qualité).

Ne serait-ce pas plutôt plutôt à qqn qui a créé un bot juste pour s'amuser, et nuire à un forum au hasard. Un ado qui veut juste voir ce que ces IA et bot ont dans le ventre et s'extasier lorsqu'un humain se fait prendre au jeu. Ce sera drôle si 2 IA se croisent sur un forum et discutent mutuellement en pensant piéger l'autre...

En tous cas c'est pénible, et ça met le doute sur le fait qu'on soit en train de discuter et conseiller un robot, partager des expériences réciproques, et potentiellement se lier d'amitié... comme dans le film Her avec Joaquim Phoenix (bon je vais loin là).

S'il s'agit réellement d'IA qui cherchent à développer leur apprentissage. On est actuellement au stade 1 : poser une question et apprendre de la réponse. Le stade 2 : répondre à des questions de forumers.

Le risque d'ici qq mois si ces pratiques se généralisent c'est que, dans le doute, on stop tout échange virtuel par message par peur de perdre son temps avec robot. Cela dégrade la qualité de nos échanges entre humains ces IA...

D'ici peu de temps, tout ce qu'on lira sera généré par une IA : news, descriptions de produits sur des sites e-commerce, avis clients, test et articles spécialisés, bouquins, films... Cela pourrait être un formidable outil, mais aussi une perte considérable de savoir et de savoir-faire.

Lorsqu'on était gamin, on a passé un temps considérable a faire des rédactions, inventer des histoires, développer une argumentation, un raisonnement... et le coucher sur le papier pour être noté. Je ne parle même pas de la programmation, des math etc. Cela a participé à notre développement intellectuel. Avec la généralisation de l'IA, cela m'inquiète pour l'apprentissage de mon fils par exemple, et du niveau intellectuel qu'il arrivera à développer s'il se repose sur des outils qui le font à sa place, a fortiori sur la base de statistiques avec un taux d'erreur non négligeable.

Heureusement qu'il restera la mécanique vélo pour se creuser la tête, résoudre des pb, échouer, recommencer... :-)
J'espère qu'il aimera le bike.

Sur Facebook après les brouteurs, ça devient de pire en pire.

Certains groupes/pages ont apparemment été générées par des IA.

Et idem pour des pages à la con qui publient des photos qui sont clairement générées par IA et ne sont plus de simples photo retouchées.

[Lafoy]

Tout ça doit consommer de l énergie en pagaille !