Questa settimana, Apple ha bloccato un’applicazione di posta elettronica chiamata BlueMail.
L’applicazione sviluppata da Blix Inc, che utilizza ChatGPT di OpenAI per generare e-mail per gli utenti in base al loro contenuto e dati del calendario precedenti.
Apple ha bloccato l’applicazione per preoccupazioni che non filtrasse correttamente i contenuti per i giovani utenti.
Il produttore ha dato a Blix una scelta: migliorare il processo di filtraggio dei contenuti o aumentare la restrizione di età minima da 4 a 17 anni.
Il co-fondatore di Blix, Ben Volach, ha dichiarato al Wall Street Journal che la sua azienda utilizza filtri di contenuto e sostiene che la richiesta di restrizione di età di Apple sia ingiusta e danneggi l’attività.
La sua azienda aveva precedentemente intentato una causa antitrust contro Apple nel 2019 a seguito della rimozione dell’app dalla piattaforma.
L’azienda di Cupertino, invece, ha affermato che tutti gli sviluppatori hanno la possibilità di contestare i respingimenti dell’app attraverso il processo di appello dell’App Review Board e che sta attualmente indagando sulla denuncia di Blix.
La questione solleva ulteriori interrogativi sulle capacità di Apple di esercitare un controllo sulle applicazioni basate sull’Intelligenza Artificiale generativa.
Inoltre, si ipotizza un potenziale conflitto incombente tra Apple e Google, i due principali operatori di app store al mondo, sulla quantità di libertà concessa alle applicazioni AI in cerca di una casa sui dispositivi mobili.
Apple, come uno dei due principali operatori di app store e l’unico gatekeeper per gli utenti di iPhone, ha un potere immenso nel definire gli standard sui tipi di contenuti che arrivano sui dispositivi degli utenti.
In particolare, le linee guida di revisione dell’App Store di Apple affermano che le applicazioni “non dovrebbero includere contenuti offensivi, insensibili, sconvolgenti, intesi a disgustare, di gusto eccezionalmente povero o semplicemente inquietanti”. L’azienda applica restrizioni sull’età per alcune applicazioni basate sull’Intelligenza Artificiale generativa come il motore di ricerca Bing di Microsoft abilitato da ChatGPT.
Tuttavia, la politica di Apple manca di coerenza e non viene applicata in modo equo a tutte le applicazioni che utilizzano tecnologie simili. Ad esempio, Blix sostiene che se la sua applicazione deve avere una restrizione di età di 17 anni, allora dovrebbe valere lo stesso per tutte le altre applicazioni.
Tuttavia, ci sono buone ragioni per cui Apple dovrebbe affrontare con cautela gli strumenti di Intelligenza Artificiale generativa.
I chatbot, nella loro forma meno sofisticata, hanno una storia macchiata di messaggi razzisti e pieni di odio provenienti dai meandri di 4Chan.
Inoltre, i modelli di linguaggio su larga scala come ChatGPT e Bard di Google, hanno una tendenza preoccupante a blaterare informazioni fasulle con sicurezza sotto un velo di obiettività, un fenomeno che gli esperti chiamano “allucinazioni”.
In conclusione, il blocco di BlueMail da parte di Apple evidenzia il ruolo influente del gigante tecnologico nel definire gli standard di moderazione dell’Intelligenza Artificiale, in un contesto di scarsa o nulla regolamentazione governativa.
La questione evidenzia anche la tensione tra la necessità di garantire la sicurezza dei giovani utenti e la volontà di permettere l’innovazione delle applicazioni AI. La politica di Apple sulle restrizioni di età e sui contenuti, sebbene mirata a prevenire il rischio di contenuti offensivi o inappropriati, può essere soggetta a interpretazioni soggettive e mancare di coerenza nel suo applicare le regole a tutte le applicazioni.
In ogni caso, Apple, come uno dei principali gatekeeper degli app store, ha una grande responsabilità nell’assicurare la sicurezza e l’affidabilità delle applicazioni disponibili per gli utenti dei suoi dispositivi.
Donovan Rossetto è un esperto ufologo, videogiocatore e scrittore. Con una vasta conoscenza sia del fenomeno UFO che dell’industria videoludica, Rossetto offre una prospettiva unica e interessante su entrambi i temi. Inoltre, come scrittore, Rossetto ha saputo combinare la sua passione per gli UFO e i videogiochi in una serie di articoli e libri che hanno appassionato i lettori di tutto il mondo.
