Negli ultimi mesi vi sarete forse imbattuti in RentAHuman, una piattaforma dal nome volutamente provocatorio: un marketplace in cui non sono le persone a farsi aiutare da un assistente AI, ma gli agenti AI a cercare esseri umani in grado di aiutarli. Un agente AI può individuare qualcuno a cui affidare attività che non è in grado di svolgere direttamente, soprattutto nel mondo fisico, come fotografare una vetrina o registrare un video. Un’idea simile è proposta anche da altre piattaforme, come Human Pages.
Recentemente Humwork, startup sostenuta da Y Combinator, ha portato questa idea sul terreno delle competenze. Si presenta infatti come una rete di esperti che un agente AI può consultare quando incontra un problema difficile: un errore nel software che non riesce a correggere, un progetto da migliorare, una decisione da prendere. L’esperto dialoga con l’agente attraverso una chat dedicata; l’agente può poi proseguire il lavoro quando ritiene di aver ricevuto abbastanza informazioni dall’umano. È lecito chiedersi se queste piattaforme costituiranno effettivamente un rovesciamento dei ruoli, creando nuovi modelli di lavoro, e quali potranno essere le conseguenze.
Ma da un punto di vista più pratico, dietro queste piattaforme si nasconde un problema fondamentale. Per un agente software è facile sapere che non può materialmente andare a fotografare una vetrina, o consegnare un pacco. Molto più difficile è per l’agente AI capire che, pur potendo continuare da solo, sarebbe meglio non farlo senza chiedere aiuto.
La questione diventa allora: i modelli sanno riconoscere i propri limiti? Sanno quando chiedere assistenza a un essere umano?
Immaginiamo di chiedere a un agente di preparare un preventivo per un cliente abituale. Consultando i documenti, trova il listino aggiornato, ma anche una vecchia email in cui un commerciale aveva concordato con quel cliente un prezzo più basso. Era un’eccezione per quella singola fornitura o un accordo destinato a durare? L’agente può ricostruire gli ordini precedenti e cercare altri indizi, ma potrebbe non trovare una risposta. A quel punto deve riconoscere che una domanda al commerciale può essere più utile di altre ricerche: il preventivo può essere impeccabile nei calcoli ma sbagliato nelle condizioni applicate.
L’agente potrebbe bloccarsi per la mancanza di un’informazione, oppure perché non ha la competenza per risolvere il problema. Chiedere un chiarimento al committente e consultare uno specialista sono forme diverse di collaborazione: entrambe richiedono di riconoscere un limite. Un concetto utile in questo contesto è quello di calibrazione (calibration): la corrispondenza fra la sicurezza di un modello AI e la sua effettiva probabilità di essere nel giusto. Un agente troppo sicuro può non chiedere aiuto proprio quando ne avrebbe bisogno; uno troppo prudente può coinvolgere continuamente un umano, riducendo i vantaggi dell’automazione. È un problema effettivamente discusso dai practitioner, soprattutto nell’ambito dello sviluppo e della gestione di software, che si interrogano su come accorgersi se i “coding agents” sono in difficoltà e come “costringerli” a fermarsi e chiedere supporto. Sul piano della progettazione, una guida di Pega, azienda che sviluppa software per l’automazione dei processi, suggerisce di affiancare al giudizio dell’agente regole esplicite, esterne al modello di AI, che stabiliscano quando l’automazione è consentita e quando l’agente dovrebbe chiedere aiuto. Queste indicazioni suggeriscono una scelta progettuale prudente: non affidare al solo giudizio dell’agente la decisione su quando procedere e quando coinvolgere una persona.
Alcuni recenti studi aiutano a distinguere e valutare le diverse difficoltà nella “human escalation”. In un recente preprint intitolato “Act or Escalate?” [1], i ricercatori di Harvard Business School e Johns Hopkins Carey Business School studiano otto modelli su compiti come l’approvazione di prestiti e la moderazione dei contenuti. I modelli devono decidere se applicare la propria previsione oppure rinviare la decisione a un umano, tenendo anche conto dei costi associati. Emergono comportamenti diversi tra i vari modelli AI e stime della propria accuratezza spesso poco affidabili, anche se sistemi AI con un addestramento specifico possono mostrare comportamenti sensibilmente migliori. Quelle analizzate sono però decisioni circoscritte, meno complesse di un compito che richiede molti passaggi, come quelli che gli umani sono abituati ad affrontare.
Lo studio Ambig-SWE [2], recentemente presentato alla International Conference on Learning Representations (ICLR) da ricercatori della Carnegie Mellon University, affronta invece il problema delle istruzioni incomplete. Gli autori sottraggono dettagli alle richieste di modifica di programmi software e verificano se gli agenti riescono a recuperarli attraverso il dialogo. Nei casi più favorevoli, l’interazione consente di risolvere fino al 74% di problemi in più rispetto alla condizione senza dialogo. In questo esperimento, tuttavia, l’interazione è obbligatoria e l’utente è simulato. Gli esperimenti separati sulla capacità di riconoscere le istruzioni incomplete mostrano invece difficoltà e differenze fra modelli. Saper utilizzare un eventuale suggerimento non significa saper decidere quando chiederlo.
HiL-Bench [3], sviluppato da Scale AI, è un benchmark che introduce ostacoli che emergono mentre l’agente lavora: informazioni mancanti, ambigue o contraddittorie. Nei compiti di programmazione e di consultazione di database, l’agente dispone di uno strumento per chiedere aiuto, ma deve decidere quando usarlo e che cosa domandare. Limitatamente ai compiti di programmazione software, Claude Opus 4.6 risolve circa sette problemi su dieci quando riceve tutte le informazioni, ma meno di uno su dieci quando deve procurarsi i chiarimenti. Gli autori parlano di judgment gap: il divario fra riuscire con tutte le informazioni e riuscire quando occorre riconoscere una lacuna, formulare una domanda utile e utilizzare la risposta. Va precisato che qui l’interlocutore umano è simulato e restituisce chiarimenti prestabiliti: non si misura il confronto aperto con un vero specialista chiamato a diagnosticare un problema nuovo.
Ma, lo sappiamo, i modelli diventano sempre più “intelligenti”. Possiamo quindi aspettarci che anche la capacità di riconoscere i propri limiti cresca velocemente. La classifica aggiornata di HiL-Bench (consultata il 9 ottobre 2026) registra infatti prestazioni sensibilmente superiori per i modelli “di frontiera”: per esempio, Claude Fable 5.1 raggiunge un punteggio di 61,5, contro 57 di Claude Opus 5 e 38,33 di Claude Opus 4.6. Questo è chiaramente un segnale di progresso nei compiti valutati, anche se bisogna essere cauti nell’assumere che misuri direttamente una generale “consapevolezza dei propri limiti”.
L’altro lato della questione: quando l’AI chiede aiuto, qualcuno deve saperle rispondere. In una piccola impresa, la persona giusta potrebbe essere un collega che conosce bene un cliente, oppure un consulente con competenze che in azienda mancano. A ben pensarci è proprio questo il caso in cui piattaforme come Humwork forse possono essere di aiuto. È comunque importante quando si decide quali attività affidare a un agente chiedersi: nei passaggi più delicati, su chi possiamo contare? La formazione dovrebbe aiutare imprenditori e professionisti anche a ragionare su questo, a capire quando serve una verifica e se hanno le conoscenze necessarie per farla. Perché il rischio, altrimenti, è affidare all’AI un lavoro senza aver stabilito chi possa valutarne i passaggi critici, sperando che sia l’AI stessa ad accorgersi se qualcosa non va.
Bibliografia
[1] DosSantos DiSorbo, M., & Ju, H. (2026). Act or Escalate? Evaluating Escalation Behavior in Automation with Language Models. Preprint, arXiv:2604.08588v1. Leggi il paper.
[2] Vijayvargiya, S., Zhou, X., Yerukola, A., Sap, M., & Neubig, G. (2026). Ambig-SWE: Interactive Agents to Overcome Underspecificity in Software Engineering. ICLR 2026. Versione consultata: arXiv:2502.13069v3. Leggi il paper.
[3] Trinh, T., Elfeki, M., Luo, G., Luu, K., Hunt, N., Hernández, E., Marwaha, N., He, Y. Y., Wang, C., Carabedo, F., Castillo, A., & Liu, B. (2026). HiL-Bench (Human-in-Loop Benchmark): Do Agents Know When to Ask for Help? Preprint, arXiv:2604.09408v4. Leggi il paper.