Кроме Декларации о биоэтике и правах человека я ничего не нарушаю!
На LL. Третья книга этого автора, где, в отличие от далекого прошлого и достаточно отдаленного будущего он говорит о настоящем и будущем ближайшем. Самый опасный промежуток времени для всяческих предсказаний! Когда до предсказанного еще долго, то там либо шах помрет, либо ишак сдохнет, а тут мало того, что у большинства свидетелей есть все шансы долететь до указанного времени, так прямо сейчас можно оглянуться вокруг себя и посмотреть, а не видны ли уже тенденции, которые приведут к указанным последствиям? Поскольку причинно-следственные связи еще никто не отменил, то уже должны быть и есть. Вот эти тенденции автор и рассматривает. Вкратце если сформулировать, что я вынесла из книги - в будущем все будет очень непостоянно. Мало того, что сейчас в мире многое меняется под влиянием технического, научного, прочих прогрессов, еще изменения в одной сфере тянут за собой перемены в других. Если раньше молодежь училась, перенимала опыт у старшего поколения и шла дальше, развивая его, то в будущем, вероятно, постоянно учиться придется всем. Бежать, чтобы остаться на месте, а кто остановится - тот безнадежно отстанет. Это несколько пугает, мозг человека к такому не приспособлен.Читается традиционно легко, слог у него яркий, бойкий, мысли излагаются эффектно и доходчиво. Но эх.
Книга включена в подборку рекомендованных Всенаукой, но пока не в бесплатную ее часть.
Много цитат!Много цитат!
Люди мыслят не фактами, цифрами или уравнениями, а историями. И чем проще история, тем лучше.
Выяснилось, что наш выбор чего бы то ни было, от еды до партнера, определяет не какая-то загадочная свобода воли, а взаимодействие миллиардов нейронов, за долю секунды вычисляющих вероятности. Хваленая «человеческая интуиция» на поверку оказалась «распознаванием образов».
Биохимические алгоритмы человеческого мозга далеко не совершенны. Они основаны на эвристике, упрощениях и устаревших нервных связях, более пригодных для условий африканской саванны, чем для каменных джунглей города. Неудивительно, что даже опытные водители, банкиры и юристы иногда совершают глупые ошибки.
Многие врачи практически полностью заняты обработкой информации: они собирают данные о здоровье, анализируют их, ставят диагноз. А вот медсестра должна обладать хорошими моторными и эмоциональными навыками, чтобы безболезненно сделать укол, сменить повязку или успокоить буйного пациента. Поэтому, скорее всего, семейный врач с искусственным интеллектом на нашем смартфоне появится на несколько десятилетий раньше, чем мы увидим надежного робота-медсестру.
Люди живут все дольше, а детей у них становится меньше, и поэтому уход за пожилыми будет одним из самых быстрорастущих секторов на рынке труда для человека.
Эмоции – вовсе не мистическое явление, а продукт биохимических процессов. Поэтому в недалеком будущем алгоритм машинного обучения сможет анализировать биометрические данные от датчиков внутри и на поверхности вашего тела, определять ваш тип личности, следить за сменой настроения, а затем вычислять эмоциональное воздействие, которое окажет на вас та или иная композиция – или даже музыкальная тональность.
Вероятно, из всех видов искусства для анализа больших данных лучше всего подходит музыка, поскольку и она сама, и результат ее воздействия поддаются точному математическому описанию. На входе – математические диаграммы звуковых волн, на выходе – электрохимические диаграммы нейронных бурь. Через несколько десятилетий алгоритм, проанализировавший миллионы мелодий, научится предсказывать, какую реакцию вызовет любая из них.
Когда-нибудь алгоритмы научатся сочинять целые мелодии, играя на человеческих эмоциях, словно на клавишах фортепиано. Используя ваши биометрические данные, алгоритм сможет даже писать персонализированную музыку, которую сможете полностью понять и прочувствовать только вы.
Используя массивы биометрических данных миллионов людей, алгоритм сможет выяснить, на какие биохимические «кнопки» нужно нажать, чтобы будущий хит захватил все танцполы мира.
Уже сегодня мало кто из наемных работников рассчитывает всю жизнь проработать на одном месте[29]. К 2050 году безнадежно устареть может не только идея «пожизненного найма», но и концепция «профессии на всю жизнь».
Теоретически можно представить себе экономику, в которой горнопромышленная корпорация добывает железную руду и продает железо корпорации, которая производит роботов, а та, в свою очередь, продает роботов горнопромышленной корпорации, которая добывает еще больше руды, используемой для производства еще большего числа роботов, и так далее. Эти корпорации будут расти и расширяться до дальних рубежей Галактики, и им потребуются только роботы и компьютеры, а люди не будут нужны даже для того, чтобы покупать их товары.
В том, что касается ранжирования веб-страниц поставщиков мороженого, у поискового алгоритма Google весьма утонченный вкус, и самым успешным продавцом мороженого в мире будет та компания, которую Google поставит на первое место, а вовсе не та, что производит самое вкусное мороженое. Гугль, руки прочь от святого!
На референдумах и выборах исход всегда зависит от чувств людей, а не от их рациональных размышлений. Если бы демократия требовала рационального принятия решений, не было бы никакого резона давать людям равные избирательные права – или вообще хоть какие-то избирательные права.
Демократия предполагает, что наши чувства отражают загадочную и глубокую «свободу воли», что эта «свобода воли» – главный источник власти и что, хотя некоторые люди умнее других, все они одинаково свободны.
Возможно, именно эта зависимость от веления сердца – ахиллесова пята либеральной демократии. Если кто-то (неважно, в Пекине или в Сан-Франциско) получит технологическую возможность «проникать в человеческое сердце» и манипулировать им, демократическая политика превратится в театр эмоциональных марионеток.
Чувства основаны не на интуиции, вдохновении или свободе – в их основе лежат вычисления.
Если чувства одного из наших древних предков приводили к фатальной ошибке, то гены, сформировавшие эти чувства, не передавались следующему поколению. Таким образом, чувства не противоположны рациональности – они суть воплощение эволюционной рациональности.
На наших глазах происходит слияние двух масштабных революций. Биологи проникают в тайны человеческого тела, мозга и чувств. Одновременно специалисты в области вычислительных систем открывают беспрецедентные возможности обработки данных. Когда биотехнологическая революция сольется с революцией в ИТ, появятся алгоритмы Big Data, способные следить за нашими чувствами и понимать их гораздо лучше, чем мы. И тогда власть перейдет от людей к компьютерам.
Люди получат лучшее здравоохранение в истории, но именно поэтому они, вероятно, будут постоянно болеть. В нашем организме всегда есть неполадки и всегда есть что улучшить.
Пока вы бродите по интернету, смотрите YouTube или листаете социальные сети, алгоритмы будут внимательно следить за вами, изучать вас и сообщать компании Coca-Cola, что, если она хочет продавать вам свои напитки, ей лучше использовать рекламу с полуобнаженным парнем, а не с полуобнаженной девушкой. Сами вы об этом даже не узнаете. Но они – будут знать, и ценность такой информации будет исчисляться миллиардами.
Как предсказывал Джордж Оруэлл в романе «1984», телевизор будет наблюдать за нами, пока мы его смотрим.
Но программа Amazon и не должна быть идеальной. Достаточно, чтобы в среднем алгоритм превосходил человека. А это не так уж трудно, потому что большинство людей плохо себя знают и, принимая самые важные в своей жизни решения, совершают ужасные ошибки.
Уже сегодня «правдой» считается то, что попадает в верхние строки поисковой выдачи Google[52].
В марте 2012 года в Австралии три японских туриста решили осмотреть маленький остров недалеко от берега и заехали на машине прямо в Тихий океан. Водитель, двадцатиоднолетний Юдзу Нода, впоследствии объяснил, что просто следовал указаниям системы GPS: «Она сказала нам, что мы можем ехать прямо туда. Навигатор говорил, что покажет нам дорогу. Мы чуть не утонули»[53]. В нескольких аналогичных случаях люди въезжали в озеро или падали с разрушенного моста – вероятно, следуя инструкциям GPS-навигатора[54]. Способность ориентироваться в пространстве подобна мышце – без тренировки она атрофируется[55].
Мы унаследовали свой гнев, страх и вожделение от миллионов предков, каждый из которых прошел чрезвычайно строгий контроль качества – естественный отбор.
Мы видели много научно-фантастических фильмов о роботах, которые восставали против своих хозяев, выходили на улицы и убивали всех подряд. Но в реальности проблема с роботами заключается в обратном: мы должны опасаться, что они всегда будут беспрекословно слушаться хозяев и никогда не восстанут.
Искусственный интеллект позволяет централизованно обрабатывать огромные массивы информации. С ним централизованные системы действуют гораздо эффективнее распределенных, потому что машинное обучение работает тем лучше, чем больше данных анализирует. Если вы соберете все сведения о миллиарде человек в одной базе данных, не заботясь о приватности, то путем машинного обучения создадите гораздо более эффективные алгоритмы по сравнению с теми, которые хранят в базе только часть сведений о миллионе человек, соблюдая требования защиты персональных данных. Например, если авторитарное правительство прикажет всем гражданам отсканировать ДНК и передать свои медицинские данные в некое центральное учреждение, оно получит колоссальное преимущество в генетических и медицинских исследованиях перед теми странами, где строго соблюдается приватность таких данных. Главный недостаток авторитарных режимов XX века – стремление сосредоточить всю информацию в одном месте – в XXI веке может превратиться в преимущество.
Демократия в ее нынешней форме не переживет слияния ИТ и биотехнологий. Либо демократия успешно трансформируется, приняв совершенно новую форму, либо людям придется жить в условиях «цифровых диктатур».
Научная фантастика обычно путает интеллект с сознанием (Уоттс не путает!) и предполагает, что для того, чтобы сравняться с человеческим интеллектом или превзойти его, компьютеры должны обладать сознанием.
В реальности нет никаких оснований предполагать, что у искусственного интеллекта появится сознание, поскольку интеллект и сознание – совершенно разные вещи. Интеллект – это способность решать задачи. Сознание – способность чувствовать боль, радость, любовь или гнев. Мы часто путаем эти понятия, потому что у людей и других млекопитающих интеллект неразрывно связан с сознанием. Млекопитающие решают большинство задач посредством чувств. Но у компьютеров совсем другой подход.
Опасность состоит в том, что, если мы вложим слишком много сил и средств в развитие искусственного интеллекта и слишком мало – в развитие человеческого сознания, чрезвычайно изощренный искусственный интеллект компьютеров будет лишь усугублять естественную глупость людей.
Эти два процесса – биоинженерия и развитие искусственного интеллекта – совокупно могут привести к разделению человечества на небольшой класс суперлюдей и массовый низший класс бесполезных Homo sapiens.
В краткосрочной перспективе цифровые гиганты еще будут нуждаться в продаже рекламы, но уже сейчас они часто оценивают приложения, товары и компании исходя не из того, сколько денег они на этом заработали, а из того, как много данных сумели на этом собрать. Популярное приложение сегодня может не соответствовать бизнес-модели или даже быть убыточным, но, если оно способствует сбору данных, завтра его ценность будет исчисляться миллиардами долларов[79]. Дайри?!
Если происходит что-то необычное, инстинкт пользователя Facebook заставляет его доставать смартфон, фотографировать, выкладывать снимки в сеть и ждать лайков. При этом человек почти не замечает своих чувств. Его чувства все чаще определяются реакцией социальной сети.
Взаимодействие США с Россией никогда не было таким интенсивным, как в период холодной войны, когда каждый чих в московских коридорах власти заставлял американцев бегать вверх-вниз по вашингтонским лестницам.
Поэтому, когда в 2020 году вы будете смотреть игры в Токио, помните о том, что это соревнование между странами на самом деле демонстрирует удивительное всемирное согласие. Хреновый из него пророк все-таки...
Дело в том, что долларовой банкноте поклоняются все, независимо от политических и религиозных различий. У нее нет потребительской ценности – долларовую банкноту нельзя съесть или выпить, – но вера в доллар и в мудрость Федеральной резервной системы столь прочна, что ее разделяют даже исламские фундаменталисты, мексиканские наркобароны и северокорейские тираны.
Пытаясь определить свою идентичность, люди часто составляют список общих черт, но это ошибочный путь. Здесь больше помог бы список общих конфликтов и дилемм.
Было бы опасной ошибкой полагать, что без национализма мы жили бы в либеральном раю. С большей вероятностью это был бы племенной хаос.
Священнослужитель не тот, кто умеет исполнить танец дождя и положить конец засухе. Священнослужитель – это человек, способный объяснить, почему танец дождя не помог и почему мы должны продолжать верить в бога, даже если он как будто не слышит наших молитв.
Независимо от того, какой экономический курс выберет Хаменеи, он всегда подберет для его оправдания цитату из Корана.
Религии, обряды и ритуалы продолжат сохранять свое значение до тех пор, пока возможности человечества будут зависеть от сотрудничества масс, а сотрудничество масс – от веры в общие мифы.
Люди продолжают героически сражаться против традиционного расизма, не замечая, что линия фронта проходит уже в другом месте. Традиционный расизм исчезает, но в мире становится все больше культуралистов.
Терроризм – это орудие маргинального и слабого сегмента человечества.
В большинстве случаев чрезмерная реакция на терроризм представляет собой бóльшую угрозу нашей безопасности, чем сами террористы.
Если вы хотите, чтобы вас принимали всерьез, у вас должен быть как минимум один укрепленный замок – а лучше два.
Однако мы уверены, что результатом «войны с террором», которую вели американцы и их союзники, стали не только огромные разрушения на всей планете, но и, как выражаются экономисты, «скрытые издержки». Деньги, время и политический капитал, потраченные на противостояние терроризму, не вкладывались в борьбу с глобальным потеплением, СПИДом и бедностью, в усилия по установлению мира и процветания в Центральной Африке, в улучшение отношений с Россией и Китаем.
Человеческая глупость – один из самых мощных двигателей истории, но мы часто ее не учитываем.
Но главное течение иудаизма вполне серьезно настаивает на том, что Вселенная устроена таким образом, чтобы раввины могли изучать священные тексты, а если евреи прекратят эту практику, наступит конец света. Китай, Индия, Австралия и даже далекие галактики будут уничтожены, если раввины в Иерусалиме и Бруклине перестанут обсуждать Талмуд. Это главный догмат веры ортодоксальных иудеев, и всякий, кто решит в нем усомниться, – невежественный глупец.
С точки зрения этики монотеизм, вероятно, был одной из худших идей в истории человечества.
За свою историю человечество создало сотни религий и сект. Но лишь немногие – христианство, ислам, индуизм, конфуцианство и буддизм – повлияли на жизни миллиардов людей (не всегда к лучшему).
Многие религии уделяют особое внимание скромности – а затем изображают себя самыми важными персонами во Вселенной.
Говоря о боге, люди слишком часто выражают готовность к покорности и смирению, а затем используют имя бога для подчинения своих собратьев.
Есть что-то подозрительное и опасное в людях, которые не убивают просто потому, что «такова воля Божья».
Люди, которые боятся утратить истину, больше склонны к насилию, чем те, кто привык смотреть на мир с разных точек зрения.
Демократия базируется на идее, что избиратель знает, что делает; рыночная экономика – на идее, что клиент всегда прав; либеральное образование – на идее, что студенты способны самостоятельно мыслить.
Люди редко думают самостоятельно – нам больше свойственно групповое мышление.
Мир усложняется, и люди перестают понимать, насколько ничтожны их знания о происходящем вокруг. В результате те, кто почти ничего не знает о метеорологии или биологии, выступают с политическими инициативами в области климатических изменений или генетически модифицированных зерновых культур или подробно объясняют, что именно нужно сделать на Украине или в Ираке, но не способны показать эти страны на карте. Люди редко сознают свое невежество, поскольку склонны существовать в информационном пузыре, общаясь с друзьями, которые разделяют их взгляды, и читая только те новостные ленты, в которых их убеждения постоянно подкрепляются и редко оспариваются[168].
Научное сообщество верит в силу фактов, и те, кто хранит верность этому сообществу, продолжают верить в возможность победить в публичной дискуссии с помощью фактов, несмотря на убедительные эмпирические доказательства обратного.
Когда у вас в руке молоток, все становится похожим на гвозди, а когда вы обладаете большой властью, все выглядит как приглашение вмешаться.
Пора признать горькую правду: для мозга охотников и собирателей мир стал слишком сложным.
Homo sapiens покорил всю планету в первую очередь благодаря умению создавать и распространять мифы.
Если вы мечтаете об обществе, в котором правит истина, а не мифы, вам не стоит ждать слишком многого от Homo sapiens. Лучше попытать счастья с шимпанзе.
Однажды мудрого старика спросили, что он понял о смысле жизни. «Знаете, – ответил он, – я понял, что пришел на эту землю, чтобы помогать другим людям. Но не могу понять, зачем здесь другие люди».
Если вы спросите кого-то о смысле жизни, а в ответ услышите историю, можете не сомневаться – ответ неверен. Точность деталей не имеет значения. Любая история неверна – просто потому, что это история. А происходящее во Вселенной не похоже на историю.
Большинство из тех, кто пытаются понять себя, похожи на детей, отправившихся на поиски сокровищ. Они найдут только то, что заранее припрятали для них родители.
Если вы хотите узнать правду жизни, то обряды и ритуалы будут огромным препятствием. Но если вы, как Конфуций, заинтересованы в социальной стабильности и гармонии, то правда станет тяжким бременем, а обряды и ритуалы будут вашими верными союзниками.
Конечно, здесь есть логический изъян. Если вы страдаете во имя веры в Бога или страну, это не доказывает, что ваша вера истинна. Может, вы просто расплачиваетесь за легковерие? Однако большинство людей не любят признавать себя дураками. Поэтому чем больше они жертвуют во имя веры, тем сильнее становится их вера. Такова загадочная алхимия жертвоприношения.
Если под «свободой воли» вы понимаете свободу делать то, что хотите, то да, люди обладают свободой воли. Но если под «свободой воли» подразумевается свобода выбирать желания, то такой свободы у человека нет.
Сражаться с другими потому, что веришь в вечного Бога, – прискорбно и объяснимо; сражаться из-за того, что веришь в бессмысленность и пустоту всего сущего, – довольно странно, но очень по-человечески.
Да, во многих религиях широко используются разные техники медитации, но это не значит, что медитация всегда должна быть религиозной. Во многих религиях также широко используются книги, но это не значит, что чтение книг – исключительно религиозная практика.
Мы должны научиться лучше понимать свое сознание, пока алгоритмы не начали думать за нас.
@темы: научно-популярная литература, рекомендуется к прочтению
-
-
20.02.2022 в 14:28Поймала себя на мысли, что мы гораздо ближе к обществу "Облачного атласа", или, если угодно, поздним интерпретациям Уэллса, чем мне казалось.
-
-
20.02.2022 в 17:05-
-
20.02.2022 в 17:51