Aller au contenu

Réflexions actuelles sur les générateurs d’images et l’éthique de l’entraînement

Ce que j’ai en tête en ce moment sur l’art IA et l’IA en général.

  1. L’entraînement n’est pas égal à la réplication — généralement.

Il y a des exceptions. Et il y a des raisons valables pour qu’un artiste veuille répliquer quelque chose. Mais je ne vois pas de distinction qui rende ça moins artistique.

Le prompting est une forme d’art. Et malgré les efforts des labos d’IA et des développeurs pour rendre la chose plus simple, il faut toujours une pratique artistique pour en tirer quelque chose qui ressemble à une expression personnelle.

Donc ça compte comme de l’art, quoi qu’il arrive.

Votre appréciation personnelle de cette forme d’art peut varier.

Mais on n’est pas obligé d’aimer quelque chose pour que ce soit considéré comme de l’art valide.

On n’a même pas besoin de comprendre.

  1. Si les grosses boîtes vont piller les communs pour entraîner des modèles, sans les passer en open source et donc sans REDONNER leurs contributions aux communs... je pense qu’elles devraient payer pour le droit de le faire.

Je pense que les gens qui ne comprennent pas l’IA aiment bien sortir des arguments sur l’IA corporate. Et je ne pense pas que ces arguments soient mauvais ou mal raisonnés.

Il y a mille raisons d’être frustré par l’IA corporate. De l’empreinte environnementale à la sécurité, en passant par la confidentialité des données, l’entraînement, et la liste est longue.

Mais... là où je pense que la ligne de démarcation a du sens, c’est dans cette question : qu’est-ce que vous apportez à l’intérêt général ?

Des fossés autour du travail des autres

Il se passe un truc dans l’IA que je n’aime pas. Des développeurs commerciaux qui débarquent, volent du code et des workflows open source, et sortent leurs « produits » qui ne sont essentiellement que des wrappers ou des remparts autour de produits open source.

Ça va arriver.

La question est... qui est le pire ?

Une boîte comme Meta qui utilise des milliards de lignes de code open source pour produire des modèles qu’elle publie sous licences ouvertes, et avec lesquels on peut travailler et sur lesquels on peut bosser librement ?

Ou l’entité qui prend quelques modèles de diffusion, fait quelques tweaks utiles, ne redonne rien, et appelle ça un « service » pour vous le revendre ?

Je soutiendrais que le second cas est le pire, parce que ce scénario ne fait rien pour faire avancer la science, nuit au travail et à la reconnaissance des contributeurs réels (dont la plupart ne sont pas payés), et n’apporte rien à la communauté, tout ça pour vendre un produit qu’ils ne possèdent pas.

Ces types n’investissent ni argent ni vraiment de temps dans le développement, tout en rebranding le tout — en mentant sur ce qu’ils vendent et d’où vient le « produit ».

Tout en exploitant une communauté qui se laisse facilement impressionner par tout ce qui brille.

C’est fréquemment fait en violation des licences open source.

Alors pourquoi ces types ne rendent-ils pas de comptes ?

On sait tous qui le fait.

Je pense qu’on devrait réfléchir à l’ouverture des choses. Je pense qu’on devrait se soucier de là où tout ça nous mène. Je pense qu’on devrait se soucier de l’équité, envers les artistes et les développeurs.

Les corporations ont plus besoin du code open source que les développeurs n’ont besoin des modèles et des outils d’UI corporate.

Ces choses ne sont pas équivalentes.

Il faut que les abus s’arrêtent.

Si les boîtes (parfois ironiquement nommées) continuent de s’approprier le travail des gens pour se protéger, sans rien apporter à la conversation globale... elles feraient bien de commencer à payer pour ce privilège.