C’est marrant comme.concept, ça ouvre plein de portes

  • Ziggurat@sh.itjust.works
    link
    fedilink
    Français
    arrow-up
    1
    ·
    1 year ago

    All major generative AI models have safety filters to prevent users from prompting them to produce pornographic, violent, or otherwise inappropriate images. The models won’t generate images from prompts that contain sensitive terms like “naked,” “murder,” or “sexy.”

    Ça me parrait osé comme prémice. Stable diffusion, je suis obligé de mettre nsfw en negative prompt sinon je récupère du nu. Je crois qu’il y a même des lora pour avoir de belles vulves photo-réalistes si jamais le monde était pas assez pourris

    • keepthepace@slrpnk.net
      link
      fedilink
      Français
      arrow-up
      5
      ·
      1 year ago

      Ils parlent de “major generative AI models”, pour ce genre de revues ça veut dire “des trucs gérés par des milliardaires”. Les modèles utilisés par des millions de personnes gratuitement, c’est un truc de hippies, ça les intéresse pas.

      • Ziggurat@sh.itjust.works
        link
        fedilink
        Français
        arrow-up
        2
        ·
        1 year ago

        Parce que avec 2-3 outils de bases genre inpainting. Je peux reprendre ta tete, prendre un corp en position chaudasse avec une vulve ultra réaliste et partager ça au monde en disant que tu m’as envoyé un nude. Il y a meme des app dediés pour générer du deep fake.

        L’avantage c’est que dans 5 ans les nudes ne vaudront plus rien mais pour l’instant c’est le paradis pour harceleurs

    • Sphks@lemmy.dbzer0.com
      link
      fedilink
      Français
      arrow-up
      1
      ·
      1 year ago

      Je lisais l’article et j’ai copié cette citation pour la commenter :-)

      Les IA en ligne ont des filtres. Les IA locales proposent des filtres, mais rien ne force à les activer. Comme toi, avec Stable Diffusion, je mets des prompts négatifs pour ne pas avoir de femmes sexy alors que je voulais juste un dessin de tracteur.

      Par curiosité j’ai testé ce qu’on pouvait lui demander de générer en poussant le truc, et la pédopornographie arrive très facilement sans qu’on le lui demande spécifiquement. Il doit mélanger des dessins manga de jeunes filles et du porno photoréaliste.