Честа тема в последните писания за машинния интелект е, че най-добрите нови учебни машини ще представляват доста извънземни форми на интелигентност. Не съм толкова сигурен. Мотивите зад изображението на „извънземни AIs“ обикновено са нещо подобно. Най-добрият начин да накарате машините да решават трудни реални проблеми е да ги настроите като статистически чувствителни учебни машини, които могат да се възползват максимално от излагането на „големи данни“. Такива машини често ще се научат да решават сложни проблеми чрез откриване на модели и модели между модели и модели в шаблони, скрити дълбоко в масовите потоци от данни, на които са изложени. Това най-вероятно ще бъде постигнато с помощта на алгоритми за „дълбоко обучение“, за да се копае все по-дълбоко в потоците от данни. След като такова обучение завърши, какви резултати може да има система, която работи, но чиито структури на знания са непрозрачни за инженерите и програмистите, които първоначално са създали системата.

какво

Непрозрачен? В един смисъл да. Няма да (поне без по-нататъшна работа) да знаем в детайли какво се е кодирало в резултат на цялото това дълбоко, многостепенно, статистически обусловено обучение. Но извънземен? В този момент ще направя голям удар и ще изпробвам евентуално скандално твърдение. Подозирам, че колкото повече научат тези машини, толкова повече те ще завършат да мислят по начини, които са разпознаваемо човешки. В крайна сметка те ще имат широка структура от човекоподобни концепции, с които да подхождат към своите задачи и решения. Те дори могат да се научат да прилагат емоционални и етични етикети по приблизително същия начин, по който го правим. Ако съм прав, това донякъде подкопава общата тревога, че това са нововъзникващи извънземни интелигентности, чиито цели и интереси не можем да проумеем и които биха могли да се обърнат към нас по неочаквани начини. За разлика от това подозирам, че начините, по които биха могли да се обърнат към нас, ще бъдат твърде познати - и по този начин се надяваме да бъдат избегнати чрез обичайните стъпки за разширяване на дължимото уважение и свобода.

Защо машините да мислят като нас? Причината за това няма нищо общо с това, че начините ни на мислене са обективно правилни или уникални. По-скоро това е свързано с това, което ще нарека „хранителна верига за големи данни“. Тези ИИ, за да се появят като правдоподобни форми на общия интелект, ще трябва да се учат, като поглъщат обширните електронни следи от човешки опит и човешки интереси. Защото това е най-голямото хранилище на общи факти за света, с което разполагаме. За да се освободят от ограничени едноизмерни домейни, тези ИИ ще трябва да обхождат светските морета от думи и изображения, които поставяме във Facebook, Google, Amazon и Twitter. Когато преди те може да са били хранени насила с диета от астрономически обекти или пъзели за сгъване на протеини, пробивната обща интелигентност ще се нуждае от по-богата и разнообразна диета. Тази диета ще бъде масовият пласт от човешкия опит, запазен в ежедневните ни електронни медии.

По този начин статистическите бани, в които потапяме тези мощни учебни машини, ще бъдат твърде познати. Те ще се хранят с изкопаемите следи от нашите собствени ангажименти, милион изображения на подскачащи бебета, подскачащи топки, LOL-котки и картофи, които приличат на папата. Това са нещата, които те трябва да разбият в многостепенен световен модел, като намерят характеристиките, обектите и свойствата (латентни променливи), които най-добре улавят потоците от данни, на които са изложени. Хранени с такава диета, тези AI може да имат малък избор, освен да разработят световен модел, който има много общо с нашия собствен. Вероятно има по-голяма опасност да станат изроди от супер-Марио, отколкото да станат супер-злодеи, целящи световно господство.

Подобна диагноза (която е предварителна и поне малко игрива) противоречи на две преобладаващи виждания. Първо, както бе споменато по-рано, противоречи на възгледа, че настоящите и бъдещите ИИ са основно извънземни форми на интелигентност, захранващи се с големи данни и смачкващи статистически данни по начини, които ще направят интелекта им все по-непрозрачен за човешкото разбиране. Напротив, достъпът до все повече и повече данни, от най-свободно достъпния вид, няма да ги направи по-чужди, но по-малко.

Второ, поставя под съмнение виждането, че кралският път към разбирането в човешки стил е въплъщение в човешки стил, с всички интерактивни възможности (да стоиш, седиш, скачаш и т.н.), което предполага. Защото въпреки че нашият типичен път за разбиране на света минава през множество такива взаимодействия, изглежда напълно възможно техните не се нуждаят. Такива системи несъмнено ще се радват на някои (вероятно много и различни) начини за взаимодействие с физическия свят. Тези срещи обаче ще бъдат комбинирани с излагане на богати информационни пътеки, отразяващи нашите собствени начини на взаимодействие със света. Така че изглежда възможно да могат да разберат и оценят футбола и бейзбола точно колкото следващия човек. Уместно сравнение тук може да бъде с различно способно човешко същество.

Тук, разбира се, има още много неща за размисъл. Например ИИ ще виждат огромни части от човешки електронни пътеки и по този начин ще могат да различават модели на влияние сред тях с течение на времето. Това означава, че те могат да ни моделират по-малко като индивиди и повече като вид сложна разпределена система. Това е разлика, която може да има значение. А какво да кажем за мотивацията и емоциите? Може би те зависят по същество от особеностите на нашето човешко въплъщение, като чревни чувства и висцерални реакции на опасността? Може би - но забележете, че тези характеристики на човешкия живот са оставили изкопаеми следи в нашите електронни хранилища.

Може и да греша. Но най-малкото мисля, че трябва да помислим два пъти, преди да възприемем собствените си ИИ като нововъзникващи форми на извънземен интелект. Вие сте това, което ядете, и тези системи за обучение ще трябва да ни изядат. Много.