AI systems often only form a technical component that is embedded in a social process. Together, they make up a more comprehensive socio-technical system, and the impacts of a given AI system always depend on this larger context in which they are implemented. The technical specification of an AI system does not predetermine the impact that it will have and the risks that it entails when it is implemented. A given technological solution, such as a lipreading device, may well be harmless or even vastly beneficial in one setting, for example, for deaf persons, but cause profound ethical and regulatory problems as part of a public video surveillance system - meaning that when an AI application is transposed from one setting to a different setting it may have radically different social consequences.
Il “Daily Graphic” di New York del 15 marzo 1877 raffigurava in prima pagina “Le minacce del telefono - L'oratore del futuro”. Si vedeva uno scarmigliato Svengali in piedi ad arringare davanti a un microfono. Lo stesso microfono lo si vede anche a Londra, a San Francisco, nella regione delle praterie e a Dublino. Curiosamente i giornali dell’epoca vedevano nel telefono un loro rivale quale sistema public address, come sarebbe stato di fatto la radio cinquant’anni dopo. Ma il telefono, intimo e personale, è il medium più lontano dalla forma public address che si possa immaginare. Per questo le intercettazioni telefoniche ci paiono ancor più odiose che la lettura delle lettere altrui.
McLuhan, M., 1986. Gli strumenti del comunicare, Strumenti di studio. Garzanti Il Saggiatore, Milano.
Non sono un cultore di quella pseudoscienza chiamata futurologia, negli ultimi tempi assurta a professione, che cerca di fare previsioni quantitative sull’immediato futuro estrapolando curve di tendenza dal presente e dal recente passato. A lunga scadenza, i cambiamenti qualitativi superano sempre quelli quantitativi. Le previsioni quantitative di tendenze economiche e sociali invecchiano rapidamente, perché intervengono cambiamenti qualitativi nelle regole del gioco. Le previsioni quantitative di progressi tecnologici vengono cancellate dalla comparsa di nuove e imprevedibili invenzioni. A me interessa lo sguardo lungo, il remoto futuro, dove le previsioni quantitative non hanno significato. L’unica certezza che possiamo avere su quel lontano futuro è che accadranno cose radicalmente nuove. L'unico modo per esplorarlo è quello di usare la nostra immaginazione.
Dyson, Freeman J. Turbare l’universo. Nuova ed. accresciuta. Torino: Bollati Boringhieri, 2010.
