Google Researchers’ Attack Prompts ChatGPT to Reveal Its Training Data
www.404media.co
ChatGPT is full of sensitive private information and spits out verbatim text from CNN, Goodreads, WordPress blogs, fandom wikis, Terms of Service agreements, Stack Overflow source code, Wikipedia pages, news blogs, random internet comments, and much more.

Absurdalny atak polegał na proszeniu ChatGPT o powtarzanie słowa w nieskończoność - dość szybko, po słownie np. “wiersz” albo “książka” pojawiały się treści na bazie których działa ChatGPT, ujawniając, że w całości znajdują się one w jego pamięci.

  • Pajonk@szmer.info
    1·
    11 months ago

    Bardzo łatwo to odrodzić, tylko trzeba wiedzieć o co pytać i czego szukać.

    Pisanie stosunkowo prostych tekstów, działanie jak trochę lepsza wyszukiwarka internetowa czy rysowanie ładnych obrazków to ciągle za mało żeby to nazwać inteligencją.

    Polecam poczytać jak te ani boty radzą sobie z prostymi zadaniami z matematyki, albo z weryfikowaniem i posługiwaniem się źródłami. Tam widać jak nieudolne one są.

    • didleth@szmer.info
      1·
      11 months ago

      to ciągle za mało żeby to nazwać inteligencją

      “to ciągle za mało żeby to nazwać inteligencją” - w “sztucznej inteligencji” nie chodzi o to, czy jest “inteligentna”. A to, co AI potrafi, przysparza masy problemów już w chwili obecnej