Il segreto oscuro del cuore AI

[MarcoBani]

Una lettura anche per i non tecnici sui rischi del deep learning la trovate su Technology review.

Ecco alcuni passaggi interessanti:

The system is so complicated that even the engineers who designed it may struggle to isolate the reason for any single action. And you can’t ask it: there is no obvious way to design such a system so that it could always explain why it did what it did.

oppure

The computers that run those services have programmed themselves, and they have done it in ways we cannot understand. Even the engineers who build these apps cannot fully explain their behavior.

Usare l’Intelligenza artificiale richiederà un salto nella fede?

[solyarisoftware]

Sì, abbiamo passato gli ultimi… 2 anni nell’esaltazione del deep learning, ma ultimamente sento sempre più parlare della necessità di sistemi AI che facciano “introspezione”, ovvero che sappiano spiegare i razionali di una decisione; torneremo alla vituperata tecnologia dei sistemi deduttivi degli anni '70?

Simpatico l’aneddoto raccontato da Eric Scmidth (ex amministratore Google) nel suo talk “Building Artificial Intelligence for the Good of Humanity” (giugno 2016):

[Salvatore_Iaconesi]

Qui David Weinberger con il concetto di Alien Knowledge:

This infusion of alien intelligence is bringing into question the assumptions embedded in our long Western tradition. We thought knowledge was about finding the order hidden in the chaos. We thought it was about simplifying the world. It looks like we were wrong. Knowing the world may require giving up on understanding it.

E qui Anthony Townsend sulla leggibilità e interpretabilità:

These models worked, she argued, but no one knew how… the complexity was so vast, that it was impossible for anyone to really ever understand what was going on inside. A true black box

a parte le citazioni, la problematica è seria e, tra l’altro, interessantissima, anche nell’ottica della relazione umano/macchina e delle sue implicazioni.

[Guido_Vetere]

IA come mimesi o come nemesi? Quì sta er busilli