header image
НАСЛОВНА СТРАНА arrow СВЕТ ОКО НАС arrow Резервација у ресторану открила мрачну страну вештачке интелигенције
Резервација у ресторану открила мрачну страну вештачке интелигенције Штампај Е-пошта
недеља, 05 децембар 2021

 Вештачка интелигенција може да има своју мрачну страну, и то не зато што јој је то наменио човек који је осмислио, већ уграђени алгоритми могу да је створе. То је открио један Србин, ког је „Форбс“ сврстао међу најперспективније младе ИТ стручњаке, преноси Спутњик.

Лондонска компанија „ПолиАИ“ бави се вештачким гласовима који замењују оператере у кол центрима, а међу клијентима су им неке од познатих британских компанија. Идеја је да у кол центрима на позиве одговара вештачка интелигенција, уз помоћ машинског учења, па се тако, на пример, може резервисати сто у ресторану позивом на који се јавља рачунар, а не човек. Међутим, управо на том примеру откривено је како алгоритам може да доведе и до мрачне стране вештачке интелигенције.

Оснивач компаније „ПолиАИ“ Никола Мркшић, Београђанин који живи у Лондону, прича да је током тестирања софтвера за резервације у ресторану, на позив у ком је речено да би гост хтео да дође „са својим српским пријатељем“, машина изненађујуће почела грубо да се шали, рекавши како је то могуће и да „деца могу да уђу у ресторан“, сугеришући како су Срби незрели. Када је у новом тесту речено да ће гост доћи са „пољским пријатељем“, уследило је ново изненађење - машина је поново почела са грубим шалама, говорећи да је резервација могућа „али да не смеју да уносе своје пиће у ресторан“. Те грубе шале биле су изненађење за све, јер машина није програмирана да их користи.

Одмах затим, промењен је софтвер тако да машина одговара без било каквих речи осим оних који се стриктно односе на тему, односно резервацију у ресторанима.

Мркшић каже како су такви одговори, засновани на увредљивим стереотипима, били изненађење и да није јасно како је машина дошла до њих, пише Блумберг.

Могуће је да је разлог томе што је машина, као и многе друге у индустрији вештачке интелигенције, „тренирана“ кроз алгоритам који проучава милионе разговора на Редиту, популарном форуму, на коме је, као и на другим интернет форумима, често могуће срести се са националним и другим стереотипима и другим примерима увредљивог говора.

Откриће овог тима стручњака указало је на обеспокојавајући тренд у вештачкој интелигенцији, јер се она развија са веома мало етичког надзора. Ради се о саморегулишућој индустрији, која, са друге стране, заузима све већи простор у нашим животима, чиме расту и ризици, па и онај највећи - да вештачка интелигенција превазиђе људску, истиче „Блумберг“.

Системи вештачке интелигенције продиру у све више сфера. Тако су у 2021. популарни били аутономна возила и сајбер-безбедност, где је било највише инвестиција у сфери вештачке интелигенције. Прогнозе су да су следећа поља у која ће вештачка интелигенција ући аналитика кредитирања, открића лекова и продаја и маркетинг.

Стручњаци процењују да су трошкови увођења алгоритама за инвеститоре веома јефтини и кроз дужу употребу практично непостојећи. Међутим, питање је колики је то трошак за људско благостање. И ако дизајнери софтвера не могу јасно да одговоре како ботови за комуникацију могу да смисле увредљиве шале, како је онда могуће поверити софтверу да доноси животно важне одлуке?

Један од одговора је да се изгради етички надзор над таквим системима, као што су независне комисије које користе поједине владе или болнице.

Поготово због тога што су истраживања показала како у ИТ фирмама нема довољно људи задужених за безбедност, а неке од њих развијају системе генералне вештачке интелигенције, која би могла да превазиђе људе у многим когнитивним способностима.

Други одговор је да у тренутној примени, алгоритми вештачке интелигенције морају да буду пажљивије прављени и да користе јасне и потврђене информације. Неки пројекти слични томе и сада постоје, али су засновани на раду волонтера, те је неопходно да и технолошке компаније, биле оне мале или велике, уложе у то, пише „Блумберг“.

 

Да ли вам се допао овај прилог? „Борба за веру“ је непрофитни православни медијски ресурс који мисионари Истину Православља и нуди бесплатну информативну услугу, која постоји само захваљујући донацијама својих читалаца.
Хвала вам на подршци и од Бога вам изобиље Његових дарова! 

Извор: "Политика"

 

Последњи пут ажурирано ( понедељак, 06 децембар 2021 )
 
< Претходно   Следеће >

Србска Православна Црква

Serbian Orthodox Church

УВОДНА РЕЧСАОПШТЕЊАКОНТАКТПРЕТРАГА
Тренутно је 15 гостију на вези
ОБАВЕШТЕЊА
Строго забрањујемо преузимање материјала са „Борбе за веру“ у циљу њиховог публиковања у клиповима на „Јутјубу“ без нашег претходног одобрења.

(Детаљније овде:)

+ + +

ПОЗИВАМО ВАС ДА СВОЈИМ ДОНАЦИЈАМА ПОМОГНЕТЕ ОПСТАНАК И СТАБИЛНО ФУНКЦИОНИСАЊЕ "БОРБЕ ЗА ВЕРУ

"Борба за веру" на "Рутјубу":

 
На канал ући кликом на слику или овде:
+ + +
 
„Ако кажете да не постоји завера, онда постоје само две могућности: или сте незналица, или сте део завере.“

Уредништво „Борбе за веру“


© www.borbazaveru.info. Сва права задржана.