Автор: Наталия Иванова
Знанието е да знаеш, че един домат е плод; мъдрост е да знаеш, че не трябва да го слагаш в плодова салата.
Всеки изкуствен интелект трябва да притежава огромни познания. Но ако ще разгърнем широко AI в обществото като цяло – на нашите магистрали, в нашите домове и училища, в бизнеса и правителствата – ще се нуждаем от машини, които да са мъдри и умни.
Изследователи, които се фокусират върху проблем, известен като AI безопасност, определят изкуствения интелект като машини, които могат да се срещнат или да победят човешкото представяне при определена когнитивна задача. Днешните автономни автомобили и алгоритмите за разпознаване на лица попадат в този тесен тип AI.
Но някои изследователи работят за разработването на генерална изкуственаинтелигентност (AGI) – машини, които могат да надминат хората при всяка когнитивна задача. Още не знаем кога AGI ще бъде постигната, но е ясно, че изследователската пътека води до все по-мощни и автономни системи за AI, изпълняващи все повече и повече задачи в нашите икономики и общества.
Строителните машини, които могат да изпълняват някаква когнитивна задача, трябва да разберат как да изградят изкуствен интелект, и те не само да научат за неща като примера с домата и салатата, но и за нашите променящи се нормативни системи за неща като това, което правим с доматите, например.
Хората живеем с множество норми – от това как ядем, обличаме и говорим, до това как споделяме информация и как се отнасяме един към друг и преследваме нашите цели.
За да бъде AI наистина мощен, машините ще трябва да разберат, че нормите могат да варират значително от група на група, което ги прави ненужни, но може да е от решаващо значение да ги следват в дадена общност.
Доматите в плодова салата може да изглеждат странни за британците, за които Кинтън пише, но те са напълно нормални, ако говорим за корейците или за член на кулинарната авангарда. И макар да изглеждат незначителни, приготвянето им по неправилен начин към определен гост може да предизвика объркване, отвращение, дори гняв. Това не е рецепта за здравословни бъдещи отношения.
Нормите се отнасят не само за очевидно незначителни неща, колкото за комбиниране на храни, но и за неща, които общностите считат за огромни: кой за кого може да се ожени, как да се лекуват децата, кой има право да държи властта, как предприятията изготвят цени своите стоки и услуги, кога и как критиката може да бъде споделена публично и др.
Успешното и безопасно AI, което постига целите ни в рамките на социално приетите норми, изисква разбиране не само на това как се държат нашите физически системи, но и на това как се държат човешките нормативни системи. Нормите са само определени характеристики на околната среда, като биологията на растението. Те са динамични и отзивчиви структури, които създаваме и следваме ежедневно, докато решаваме дали или кога да кажем на някой, че "това" е начинът, по който "правим" нещата тук.
Тези нормативни системи са системите, на които разчитаме, за да решим предизвикателството да гарантираме, че хората се държат по начина, по който ги искаме в нашите общности, работни места и социална среда.
Осигуряването на това, че мощни AI се държат по начина, по който искаме, няма да бъдат толкова ужасно различни. Точно както трябва да награждаваме нашите деца, за да бъдат компетентни участници в нашите системи от норми, ще трябва да обучим нашите машини да бъдат компетентни. Не е достатъчно да бъдеш информиран за фактите във Вселената; крайната компетентност изисква достатъчно мъдрост, за да знае, че може да има правило тук, в тази група, но не и в друга група. И игнорирането на това правило може не само да дразни групата; това може да ги накара да се страхуват или да отхвърлят нещо.
В крайна сметка, успехът на Life 3.0 зависи от способността ни да разбираме Life 1.0. И това е мястото, където може да срещнем най-голямото предизвикателство при изследванията на AI.
Вижте кои са трите нови модела на Apple
За тези, които пропуснаха събитието "Да си направим дизайн за тениска"
