Of machines and men

[neven_che]

преди ден-два седнах и си препрочетох няколко разказчета на Шиничи Хоши, а после, от немай какво да правя (тоест не че нямах, ама не ми се занимаваше) седнах да чета "Прикюченията на звездният навигатор Пиркс". след "Разследването"... не знам какво стана, ама не мога да си събера мислите оттогава и имам нужда от помощ (не психиатрична, все още )
просто ... човек не може бе машините, нали? създава ги, подобрява ги непрекъснато, и същевременно ги поддържа, в някакъв смисъл дори им робува, мечтае си да ги направи самостоятелни; замисли ли се обаче върху възможността да се изправи срещу някоя далеч по-добра от него самостоятелно мислеща машина ... и се плаши. Не знам, сблъсъците ми със sci-fi литературата (и не само) са доста малко,когато му дойде времето ще наваксам; засега обаче виждам все едно и също и не знам и не разбирам, въпроси в главата ми много, но не мога да ги формулирам и всичко в един момент се свежда до едно голямо ЗАЩО? какви трябва да са машините, за да не се страхува човек от тях? сигурно има такъв разказ, такава повест, такава книга, такъв филм, но аз още не съм ги прочела/гледала. Как трябва да изглеждат нещата за да е наред отношението човек-машина?

[termit]

Ами в общи линии отговорът е прост - нещата трябва да си както са в момента. С други думи, правилата и ограниченията за една машина за твърдо заложени в нея и не могат да се променят. И тъй като аз поне се съмнявам, че изобщо някой ден ще бъде създаден чист ИИ, нямам и причина да се страхувам от самостоятелно мислеща машина. Впрочем дори и да приемем, че успеем да спретнем такова чудо, съмнявам се че ще го оставим без контрол. 3-те закона на роботиката на Азимов достатъчно добре изясняват ситуацията. Не бих се страхувал от машина, която не може да ми навреди по никакъв начин. Особено ако знам, че това поведение е толкова дълбоко заложено в нея, че ако се стигне до повреда, в която то не важи, значи е тотално изпържена.

П.С. Сега се сетих за един разказ на Азимов, в който ставаше въпрос за робот с отменена част от 1 закон, който се беше покрил между още 60-тина роботи от същия модел. Не можеха да унищожат всички, така че привикаха робопсхиложка, за да го намери. Та в края на разказа роботът се опитва да я атакува и го убиват, след което репликата и беше: "Той не можеше да ме убие, пречеше му остатъкът от 1 закон"

[Kolibri]

Както и всичко друго, идеята си има силни и слаби места. Мен лично ме привлича мисълта да съществуват самостоятелно мислещи машини. Всеки случай много неща ще се променят, когато това стане. И все ми се струва, че ще има хора, които нарочно да спъват осъществяването на идеята. На много народ няма да им се понрави да съществуват машини, по-добри от хората във всяко отношение.

[traveller]

То е ясно че машините са необходими за развитието на човечеството обаче аз честно казано мога да си живея преспокойно и без тях. Достатъчно параноя може да му се насъбере на човек от всички тия апокалиптични истории, в които компютрите поемат контрола над човешката раса. За мен тва са глупости и ако един ден наистина стане така няма кой друг да ни е виновен освен ние самите и нашата глупост.

[Invisible Child]

хм, той Азимов е изписал толкова много по тоя въпрос, че да се уплаши човек. И с великите закони на роботиката, който и да тръгне да прави ЕйАй, със сигурност ще ги заложи. Това ми беше всъщност първото СФ - "Двестагодишният човек"... И двестагодишният човек си беше машина, от която няма как да се уплаша. Обаче има много истерии как хората са създадени с единствената цел да развият по-висш вид и за целта ще измислят наистина интелигентни машини, които да се превърнат в доминиращи рано или късно. обаче ми се струва, че хората са доста неспособни да си позволят такова нещо, в смисъл, че са си направо некадърни дори да се самоунищожат по толкова възвишен начин (оставяйки все пак някаква цивилизация след себе си)
не ме е страх от машините, те са все още ъндър контрол, или по-скоро ние все още сме ъндър контрол с оставянето на машините да ни командват. има някакви такива парадоксални нива на този иначе толкова екзистенциално детерминиращ въпрос.

[turin]

[Demandred]

Разказът на Лем "Разследването" е много добър BTW. И мен ме накара да се позамисля по темата.
Обаче лично аз не се страхувах от подобно нещо, съсздаването на истински ИИ е далеч напред във времето, а и ме съмнява, след толкова филми и книги предупреждения създателите да не му поставят нужните ограничения. Въпреки че Лем имаше интересна теза в този разказ и няколко други на подобна тема- за да стане наитина добър и самостоятелно мислещ ИИ-то, трябва да се премахнат такива ограничения като законите на Азимов. Въпросът обаче е наистина какво толкова има да делим с този евентуален ИИ, че да воюваме.

[Clio]

А мен пък ме вълнува друг въпрос - безработицата :Р
Мда ве, сериозно - ако създадем машини, които толкова добре да ни заместват, каква ще е ползата от нас? С какво ще се занимават хората тогава? В смисъл, то туризмът, лентяйстването и разврата верно са вечно актуални занимания, ама като ти станат работа, ще загубят 90% от очарованието си :РР

[Demandred]

Просто ще се насочим към по-интересни работи- писатели, художници, спортисти.
Пък и аз лично съм твърдо "за" постоянството лентяйство и разврат.

[termit]

Дем, не на всички им е интересно да се занимават със спорт или изкуство. И все си мисля че само лентяйство и разврат ще ти писнат в някакъв момент... дори да се опитваш постоянно да постигаш нови висоти в двете дисциплини, все някъде ще има граница

А пък сценарият "машините ще завладеят света" ми се вижда напълно невъзможен - ясно е че ИИ-тата ще бъдат ограничени програмно, така че единственият вариант някой ИИ да поиска да види сметката на хората е да бъде програмиран за това. Само че ако се стигне до момента всеки психопат да може да си програмира ИИ, тогава наоколо ще има достатъчно други ИИ-та, най-вероятно доста по-качествени, които ще могат да се противопоставят на всяко негово действие.

Турин, в момента се сещам за няколко книги, в които ИИ са от "добрите", или поне са неутрални. Доста от нещата на Гибсън примерно (особено в Идору има определено приятелски настроено към хората ИИ ), или - най-пресен спомен - Суперкомандос на Ричард Морган (ИИ на хотела е култов образ)

_________________

[Ghibli]

Какво значи "ограничен програмно"? Ако ще е истински самостоятелна машина, не трябва да я ограничава нищо, така поне си го представям.

[turin]

[Roland]

Бе не ми е много ясно защо, с изключение на разни единични случаи, авторите задължително описват ИИ като нещо враждебно. В смисъл, що за Франкенщайнов комплекс е това? Иначе, колкото и да звучи тривиално, според мен един ИИ с вградени трите азимови закона на роботиката, е абсолютно безопасен И самостоятелен, ако частта с подчинението на хората се посмекчи до нещо по-скромно от типа коопериране или съобразяване. Тъпо звучи всъщност, така като го гледам, но другото е Матрицата :D
Идеята е, че машината няма чувства, морал и задръжки, защото се подчинява на логиката, а тия неща, както знаем, са нелогични :Р И си гледа интересите в най-общ аспект, пък ние пречим, това е ясно.

[termit]

Тоя момент с Ледомлък си го спомням доста мътно. Четох книгите на Гибсън преди няколко години и доста неща съм позабравил. Обаче ако тоя ИИ сам си е модифицирал кода, значи "ударението в тоя момент е падало на "фантастика", а не на "научна" . Само Идору ми е по-прясна, и визирах най-вече Реи Лоеи (така ли се казваше онзи ИИ бтв?) в поста си.
Суперкомандос я прочети някой ден, не е никак лоша книжката.
Между другото няма да е лошо да си уточним дефинициите - аз разглеждам "приятелски настроен ИИ" в рамките на книгата/филма или каквото е там художественото произведение. Иначе един ИИ реално не би могъл да бъде "приятелски настроен", ако не е програмиран за това.
Рол, съгласен с поста ти, но с малка добавка - за да е самостоятелен ИИ, трябва да се премахне 2-и закон.

[Roland]

Оф, я някой плс да ги постне тука трите закона, щото твърде отдавна и в твърде невръстна възраст съм ги чел книгите на Азимов и посмъртно не мога да се сетя как бяха подредени законите. Помня смао, че първият беше да не вреди. Вторият за подчинението ли беше? Да, май да. Е, аз го казах, че трябва да е силно изменен. Но ако съвсем го няма, неминуемо ще се стигне до война от някакъв тип, а има един милион начина, по които една машина може да те унищожи без да ти причини вреда и без да наруши първия закон, ако си го постави за цел.