Жасанды интеллект адамзатқа қауіпті – Vox

НҰР-СҰЛТАН. ҚазАқпарат - Vox басылымы жасанды интеллект туралы кітап жазған және жасанды интеллектінің қазіргі құрылымын өзгерту үшін күресіп жүрген Стюарт Расселден сұхбат алды. Онда ол жасанды интеллектінің адамзат үшін қауіпті екенін, бірақ оның алдын алу жолдары бар екенін айтқан.

«Жасанды интеллект адам міндеттеген мақсатты ғана орындайды. Адам әділдік, заң, демократия, қауіпсіздік немесе бостандық туралы алаңдаса, жасанды интеллект үшін оның ешбірі маңызды емес. Сол себепті жасанды инттелект адамзатқа қауіп төндіріп тұр», дейді сарапшы. Ол қазір Берклидегі Калифорния университетінде Жасанды интеллект орталығын басқарады.

«Жасанды интеллект жүйесі қалай жасалады? Механизм, алгоритм, стандартты модель арқылы. Олардың барлығы нақты мақсатқа жетуді көздейді. Егер шахматта қарсыласты жеңу мақсат етілсе, өзі жүретін көлікке «мен әуежайда болуым керек» деп айта аламыз. Дегенмен, жүйенің интеллектуалдылығы артқан сайын проблема да көбейеді. Егер мақсат дұрыс қойылмаса, жүйе сізге ұнамайтын әрекеттерге баруы мүмкін. Бұл Мидас патша проблемасы деп аталады. Ол қолы тиген нәрсенің бәрі алтынға айналғанын қалады. Нәтижесінде, оның тамағы да, суы да, отбасы мүшелері де алтынға айналып, өзі аштықта өлді», дейді ол.

Оның айтуынша, адамдар алты мың жыл бойы салық заңнамасын жазып келеді, ал соған қарамастан салықтан жалтару жолдары да табылып жатыр. Жасанды интеллект те солай.

«Жасанды интеллектінің мүмкіндіктері жақсарған сайын бұл адамзатқа қауіпті», - дейді ол.