Stimolato da questo articolo e ricordandomi il famoso video dell'AD di Microsoft sul riuscire a rendere gli LLM la UI universale ho avuto l'ispirazione per questo breve articolo. Tempo fa descrissi la verifica dell'età sui social, nel porno ecc come tecnica per chiudere l'web aperto in silos da cui si possono bannare utenti scomodi, come avviene su tante piattaforme commerciali, partizionare l'informazione in modo che giri meno, dare tutti i dati al proprietario della piattaforma ma non lasciarli aperti anche ad altri.

Ora in larga parte ciò esiste già, per alcuni dati, le mail su GMail ad es. sono una base immensa per addestrare LLM e non sono pubbliche che a ciascuno le sue e ad Alphabet tutte. Quindi Alphabet può addestrare un suo LLM sulle mail dei suoi schiavi, pardon utenti, ma terzi non possono far lo stesso, mentre su ad es. blog ordinari chiunque può accedere all'informazione. Discord fa largamente lo stesso e tanti progetti software sono così bovini da lavorarci sopra (quando potrebbero aver Matrix pubblico se proprio vogliono qualcosa di analogo anche in termini visuali).

Beh, ma perché fermarsi li. Se si riesce un ban alla volta e un agent alla volta a creare bot sufficientemente credibili con nomi utenti e frequenze dei post da sembrare umani si può de facto creare interlocutori posticci per il popolino, senza che ci sia analisi di rete possibile per scoprirli dall'esterno, con una capacità di persuasione che è noto esser estrema e che porta in poco tempo al c.d. brainrot ovvero alla resa intellettuale per cui l'utente crede a ciò che gli si propina acriticamente.

Ecco quindi che il piccolo step "dimmi giusto che sei maggiorenne", con servizio proprietario commerciale dietro "sennò si mente dicendo di si anche quando non lo si è" si apre la via sia alla fine dell'web aperto sia all'interfaccia umano-LLM non distinguibile dal grosso degli umani che a questo punto possono credere esistano maggioranze di umani convinti di una certa cosa, eventi veri o posticci accuratamente spacciati ed altri nascosti e senza visibilità pubblica non si riesce dall'esterno della piattaforma a scoprire manco analizzando la propagazione dei post e gli schemi comportamentali se sono "fake news" o meno. Il monopolio del dibattito, la nuova frontiera dell'informazione ora che gli articoli son decaduti così tanto che molti saltano dal titolo ai commenti per vedere cosa ne pensano altri umani.

Fateci un serio pensierino.