Изкуственият интелект DeepMind на Google става „силно агресивен“, когато е стресиран. Skynet, някой?

DeepMind на Google е един от най-известните примери за изкуствен интелект.

Миналата година го прочуто победи най-добрия играч в света в Go в сложната китайска настолна игра. То също е битие използван в очната болница Moorfields за разпознаване на очни заболявания от сканиране.

Но нови изследвания показват, че DeepMind реагира на социални ситуации по подобен начин като човек. По-специално, той започна да действа по „агресивен начин“, когато беше подложен на натиск.

Компютърните учени на Google проведоха 40 милиона различни обороти Събиране видеоигра за събиране на плодове, която помоли двама различни участници в DeepMind да се състезават един срещу друг, за да съберат най-много ябълки.

Логото на DeepMind

Когато имаше достатъчно ябълки за споделяне, двамата компютърни бойци бяха добре - ефективно събираха виртуалните плодове. Но веднага щом ресурсите станаха оскъдни, двамата агенти станаха агресивни и се опитаха да се избият един друг от играта и да откраднат ябълките.

Видеото по-долу показва процеса – с „геймърите“ на DeepMind, представени в червено и синьо, докато ябълките са зелени. Лазерните лъчи са жълти - и докато бойците не получават никаква награда за попадение, това изважда противника от играта за определен период от време.

„Ние характеризираме как се променя наученото поведение във всеки домейн като функция на фактори на околната среда, включително изобилие от ресурси“, екипът написа във вестник обясняват резултатите си.

Бионсе изневерява на Джей Зи

„Нашите експерименти показват как конфликтът може да възникне от конкуренцията за споделени ресурси и хвърлят светлина върху това как последователният характер на социалните дилеми в реалния свят влияе върху сътрудничеството.

(Изображение: Getty)

„Ние отбелязахме, че политиките, научени в среди с ниско изобилие или висока цена на конфликти, са силно агресивни, докато политиките, научени с голямо изобилие или ниска цена на конфликти, са по-малко агресивни. Тоест играта Gathering прогнозира, че конфликтът може да възникне от конкуренцията за оскъдни ресурси, но е по-малко вероятно да възникне, когато ресурсите са в изобилие.

Резултатите са интересни с това, че показват, че компютрите са в състояние да се адаптират към ситуациите и съответно да променят поведението си.

Много експерти предупреждават за опасностите от истинския изкуствен интелект в машините. Илон Мъск изтъкна DeepMind по-специално като такъв, който трябва да държи под око.

„Темпото на напредък в изкуствения интелект (не говоря за тесния AI) е невероятно бързо. Освен ако не сте пряко изложени на групи като DeepMind, нямате представа колко бързо - той расте с темпове, близки до експоненциални', пише той през 2014 г.

Илон Мъск има опасения относно изкуствения интелект (Изображение: Bloomberg)

„Не съм единствен, който смята, че трябва да се притесняваме.“

„Водещите компании с изкуствен интелект са предприели големи стъпки, за да гарантират безопасността. Те осъзнават опасността, но вярват, че могат да оформят и контролират дигиталните суперинтелигентности и да предотвратят бягството на лошите в Интернет. Това предстои да видим...'

Така че, докато супер-умните компютри на Google може да се задоволят да се бият един друг в надпреварата за събиране на виртуални ябълки, перспективите за бъдещето могат да бъдат тревожни. Особено ако се казваш Сара Конър.