Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an 'intelligence explosion,' and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make.

Non sono un cultore di quella pseudoscienza chiamata futurologia, negli ultimi tempi assurta a professione, che cerca di fare previsioni quantitative sull’immediato futuro estrapolando curve di tendenza dal presente e dal recente passato. A lunga scadenza, i cambiamenti qualitativi superano sempre quelli quantitativi. Le previsioni quantitative di tendenze economiche e sociali invecchiano rapidamente, perché intervengono cambiamenti qualitativi nelle regole del gioco. Le previsioni quantitative di progressi tecnologici vengono cancellate dalla comparsa di nuove e imprevedibili invenzioni. A me interessa lo sguardo lungo, il remoto futuro, dove le previsioni quantitative non hanno significato. L’unica certezza che possiamo avere su quel lontano futuro è che accadranno cose radicalmente nuove. L'unico modo per esplorarlo è quello di usare la nostra immaginazione.

Dyson, Freeman J. Turbare l’universo. Nuova ed. accresciuta. Torino: Bollati Boringhieri, 2010.

Una volta, in un articolo, io stigmatizzai l’atteggiamento di uno di questi tizi che si permettono di dire che teorie scientifiche come quella dell’evoluzione siano “solo teorie”, ed affermai che il tizio in questione, chiaramente, non sapeva nulla di scienza. In seguito a ciò, un quattordicenne mi scrisse una lettera nella quale dichiarava che le teorie erano soltanto “congetture assurde”, e che lui lo sapeva bene, in quanto gliel’avevano detto i suoi insegnanti. Rinnegò con parole infiammate la validità della teoria dell’evoluzione e mi disse con orgoglio che a scuola pregava perché nessuna legge poteva impedirgli di farlo. Allegò alla lettera una busta affrancata, con il suo indirizzo, perché voleva sapere quale fosse la mia opinione sugli argomenti da lui toccati. Giudicai più che giusto rispondergli. In poche righe gli chiesi di considerare attentamente l’eventualità che i suoi insegnanti fossero digiuni di scienza quanto lui. Gli suggerii inoltre che nella sua prossima preghiera implorasse Dio di concedergli un’istruzione, in modo che non dovesse restare così ignorante tutta la vita.