Sorts and Levels of Autonomy
Slide: <file:///C:/UNI/Magistrale/ISE/M3 – Sorts Levels of Autonomy.pdf>
Indice
Autonomia nei Dizionari e in Filosofia
Definizione
Autonomia deriva dal greco
autosenomos: darsi le proprie leggi, cioè auto-governo.
Nei dizionari autonomia richiama indipendenza, libertà da controllo esterno, autodeterminazione e self-government. Questa definizione è utile ma generica: dice “da cosa” ci si libera, non sempre “come” funziona l’autonomia.
In filosofia, soprattutto dopo Kant, l’autonomia riguarda l’individuo, la moralità e la capacità di agire secondo principi razionali, non semplicemente secondo desideri o comandi esterni. Una nozione più forte richiede anche indipendenza da se stessi: non solo scegliere azioni, ma poter riflettere e modificare i propri obiettivi.
Note
Per l’ingegneria dei sistemi intelligenti, questa idea è importante perché distingue eseguire un comando da deliberare su obiettivi e criteri di scelta.
Autonomia Militare e Automotive
Nel dominio militare compare una distinzione pratica tra automatico e autonomo.
Definizione
Un sistema automatico è pre-programmato, ripete comportamenti e compensa piccole deviazioni, ma non sceglie il percorso o il goal.
Definizione
Un sistema autonomo è diretto verso un obiettivo e sceglie comportamenti per raggiungerlo, eventualmente adattando strategie.
La roadmap militare distingue quattro livelli: human operated, human delegated, human supervised, fully autonomous. La variabile chiave è quanta e quale interazione umana serve.
Nel settore automotive, lo standard SAE definisce sei livelli, da 0 a 5: nessuna automazione, assistenza, automazione parziale, condizionale, alta e completa. Qui l’autonomia è sempre riferita alla driving task e al dominio operativo.
Warning
Dire “auto autonoma” senza specificare livello e condizioni è ambiguo. Un sistema può essere molto autonomo in autostrada e quasi inutile in una strada sterrata o in condizioni meteo estreme.
Autonomia come Concetto Relazionale
Definizione
L’autonomia relazionale considera l’autonomia di un agente rispetto ad altri agenti e rispetto all’ambiente.
Castelfranchi sottolinea che parlare di autonomia ha senso soprattutto in relazione a qualcosa: altri agenti, influenze, vincoli sociali, ambiente. Un agente isolato non è un buon caso di autonomia, perché non ci sono pressioni o dipendenze rispetto a cui essere autonomo.
Le slide distinguono agenti goal-governed e goal-oriented. I primi rappresentano esplicitamente i propri obiettivi e scelgono azioni in base a essi; i secondi sono progettati per raggiungere un obiettivo senza rappresentarlo esplicitamente.
Definizione
L’autonomia esecutiva è la capacità di raggiungere un goal dato. L’autonomia motivazionale è la capacità di avere goal in qualche modo propri o generati internamente.
Questa distinzione è essenziale. Un robot che esegue bene un compito assegnato ha autonomia esecutiva. Un sistema che seleziona, adotta o rifiuta obiettivi in base a criteri interni mostra una forma più forte di autonomia.
Autonomia nei Linguaggi di Programmazione
L’evoluzione dei paradigmi di programmazione può essere letta come aumento di incapsulamento.
- Nel monolitico, l’unità è l’intero programma.
- Nel modulare, l’unità sono procedure o subroutine riusabili.
- Nell’object-oriented, l’unità sono oggetti con stato incapsulato, ma metodi invocati dall’esterno.
- Nell’agent-oriented, l’unità sono agenti attivi, non semplicemente invocabili.
Definizione
Un agente software è autonomo in controllo quando incapsula il proprio flusso di controllo e non viene semplicemente chiamato come una funzione o un metodo.
Esempio: un oggetto Car può avere un metodo accelerate(), ma qualcuno deve chiamarlo. Un agente veicolo, invece, può decidere quando accelerare in base a obiettivi, percezioni e regole interne.
Autonomia per Agenti Software
Le slide propongono una definizione parsimoniosa: l’autonomia è la caratteristica fondamentale degli agenti.
Definizione
Gli agenti sono entità computazionali autonome: incapsulano il controllo insieme a un criterio per governarlo.
Da questa autonomia derivano altre proprietà. Un agente è proattivo perché il suo controllo non attende solo invocazioni esterne. È sociale perché l’autonomia ha senso in un sistema multi-agente. È situato perché agisce in un ambiente attraverso azioni pragmatiche e comunica con altri agenti tramite azioni comunicative.
Note
Nei MAS, gli agenti possono essere visti come più loci di controllo distinti che interagiscono scambiando informazione e modificando l’ambiente.
I criteri interni possono essere goal, task, finite-state machine o altro. La scelta dei goal non è necessaria per definire l’autonomia computazionale, ma diventa naturale quando vogliamo agenti intelligenti e sociali.
Autonomia in Agentic AI
Definizione
In agentic AI, un agente AI è un sistema che percepisce l’ambiente, pianifica, usa strumenti, agisce per un obiettivo e adatta il comportamento in base agli esiti.
Il paradigma recente evolve da prompt su LLM a RAG, poi agenti individuali con strumenti, fino a sistemi agentic in cui più agenti specializzati collaborano per obiettivi complessi.
Un Agentic MAS è quindi un sistema autonomo costruito da componenti autonomi. Il goal complesso globale emerge dalla combinazione di goal individuali, azioni individuali e interazioni sociali.
Warning
Chiamare “agente” un semplice wrapper attorno a un LLM può essere fuorviante. La questione è se il sistema incapsula controllo, criteri di scelta, azione e adattamento, non solo se produce testo.
Prossimi Argomenti
Continueremo con:
- Agents for Intelligent Systems Engineering - perché gli agenti sono la giusta astrazione per incapsulare AI nei sistemi intelligenti.
- Drivers for Artificial Systems - richiamo ai tre driver che motivano l’uso di agenti: intelligenza, autonomia e distribuzione.