ChessPro online

Умеют ли компьютеры играть в шахматы?

вернуться в форум

29.10.2007 | 19:10:30

Главная  -  Поговорим?  -  Железный марш

92

Michael_S

25.11.2012 | 21:16:49

все его сообщения:
за день, за месяц,
за все время
avi47:
Michael_S:
avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще?


Да, считаю.

Потому, как технически невозможно или просто интеллигентская блажь или третий вариант?


В том виде, как описано у Азимова, т.е. как свойство аппаратуры - технически невозможно. Но это ладно, позитронный мозг ведь тоже технически невозможен. Допустим, заменяем "врожденное" свойство аппаратуры на встроенную программу с офигительно надежной криптографической защитой от модификации.
Все равно сказка. Потому что такие вот простые законы чрезвычайно сложно однозначно формализовать.
Собственно, три четверти рассказов о Сьюзен Келвин - как раз про эту сложность. И только одна четверть - про недоёб.
номер сообщения: 54-59-3821

93

Хайдук

25.11.2012 | 21:19:27

все его сообщения:
за день, за месяц,
за все время
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.

Это легко выполнить за исключением, когда робот сломается и будет вести себя непредсказуемо.

2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.

Первый Закон злобно сконструированному роботу легко можно нарушить по приказу злобного конструктора.

3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.

Этого добиться трудно - как увильнуть от удара молотом со стороны врага злобного конструктора?
номер сообщения: 54-59-3822

94

Michael_S

25.11.2012 | 21:23:34

все его сообщения:
за день, за месяц,
за все время
avi47: Пардон, я имел ввиду законы Азимова - это блажь, а не резоны собеседника


Я так и понял. Интеллигентская блажь - она ведь бывает у интеллигентов. У Пиррона, скажем, у Жени. У ЛБ за милую душу, чему свидетельством эта ветка. У Чича...
Я тут по определению не подхожу. Врожденный иммунитет.
номер сообщения: 54-59-3823

95

avi47

25.11.2012 | 21:31:03

все его сообщения:
за день, за месяц,
за все время
Общий вывод из замечаний уважаемых господ Хайдука и Майкла_С: Растить интеллект в машинах ради перекладывания на них сложных, отличных от чисто технических функций рискованно. Где граница чисто технических функций и тех, что связаны с нравственными решениями, неизвестно. Задачу можно решить, усовершенствовав человека-творца машин, что является ещё более неразрешимой задачей. Пессимистичненько...
номер сообщения: 54-59-3824

96

LB


Петербург

25.11.2012 | 21:55:15
Сайт

все его сообщения:
за день, за месяц,
за все время
avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще? Или, может быть, воплощённые в жизнь, они в такой степени ограничат интеллектуальные возможности машин, что те не смогут справляться со сверхзадачами, которые человечество в лице участников форума собирается на них возложить?


Что касается меня, то я говорю не о роботах (в азимовском смысле), а о новых носителях разума, обладающих свободной волей и, безусловно, нравственностью.
А религиозных и антроцентричных взглядов, на которых основываются возражения оппонентов, я не разделяю
номер сообщения: 54-59-3825

97

Vova17

кмс

25.11.2012 | 22:14:53

все его сообщения:
за день, за месяц,
за все время
И все-таки, ув. ЛБ, на чем основывается ваша убежденность в нравственности искусственного интеллекта, обладающего свободной волей. Даже на простом человеческом примере мы все хорошо усвоили, что гений и злодейство две вещи весьма совместные. Где же гарантия, что творение рук человека, не имеющее понятия о чувствах, совести, эмоциях и т.д. окажется нравственнее самого человека?


__________________________
Спасение там, где опасность.
номер сообщения: 54-59-3826

98

avi47

25.11.2012 | 22:36:46

все его сообщения:
за день, за месяц,
за все время
LB:
avi47:
Считаете ли вы, господа, что три закона Азимова - это сказка вообще? Или, может быть, воплощённые в жизнь, они в такой степени ограничат интеллектуальные возможности машин, что те не смогут справляться со сверхзадачами, которые человечество в лице участников форума собирается на них возложить?


Что касается меня, то я говорю не о роботах (в азимовском смысле), а о новых носителях разума, обладающих свободной волей и, безусловно, нравственностью.
А религиозных и антроцентричных взглядов, на которых основываются возражения оппонентов, я не разделяю

То есть, Вы замахиваетесь на предположение, что в обозримом (иначе не стоит об этом рассуждать) будущем с помощью технического прогресса, в основном осуществляемом конструкторами компьютеров и программистами, руководимыми философами и прочими гуманитариями-специалистами по нравственности и культуре и проч. появится новая раса людей (или уже это будут сверхлюди)? При этом ключевым в моём вопросе является обозримость этой перспективы.
номер сообщения: 54-59-3827

99

LB


Петербург

25.11.2012 | 23:06:53
Сайт

все его сообщения:
за день, за месяц,
за все время
Я говорю исключительно о тенденции исторического (подчеркиваю) развития. Речь идет не о том, что люди прямо сейчас должны приняться за конструирование "сверхчеловека", что было бы еще более бессмысленно и нелепо, чем конструирование самолета в 15 столетии. Однако при этом надо учитывать, что эволюция (в самом широко смысле, включая и научно-технический прогресс) происходит с колоссальным ускорением.
номер сообщения: 54-59-3828

100

Обережний герой

кмс
Харьков

25.11.2012 | 23:42:18
Сайт

все его сообщения:
за день, за месяц,
за все время
Я вот хочу всё придумать название для науки об ИИ, ведь сейчас это AI,
если объединить ИИ и робототехнику, получается airics = AI + robotics (айрика). Artificial intelligence можно заменить по Курцвейлу Accelerating Intelligence.

Основная заждача айрики - построение устойчиво дружественного, сильного ИИ.
(The main goal of airics - the creation of a stable friendly strong artificial intelligence.)

Важна устойчивость дружественности, потому что можно создать дружественный ИИ, а потом он соскочит в недружественный.

В своём развитии и уcилении риска ИИ будет иметь, как по мне, как минимум четыре вехи:

1.Приблизительное равенство ИИ и человека (предел Тьюринга).
2.ИИ может полностью обходиться без человека.
3.Человек начинает мешать ИИ (предел Скайнет).
4.ИИ становится богом (предел Азимова). Воплощён в рассказе "Последний вопрос". Отсюда можно дать определение бога как идеальный интеллект с идеальными эффекторами.

__________________________
pr.ai PRAI Portal of Robotics and Artificial Intelligence
номер сообщения: 54-59-3830

101

Хайдук

26.11.2012 | 01:58:49

все его сообщения:
за день, за месяц,
за все время
LB: ННР будет создан не людьми, а продолжением действия той силы, которая создала и самого человека.

Человек не дружит с обезьянами, однако, хотя бывают расы нашего брата.
номер сообщения: 54-59-3831

102

Хайдук

26.11.2012 | 06:33:23

все его сообщения:
за день, за месяц,
за все время
Обережний герой: 4.ИИ становится богом (предел Азимова)... Отсюда можно дать определение бога как идеальный интеллект с идеальными эффекторами.

Идея Бога абсурдна, потому что никакому идеальному интеллекту нельзя совладеть с дёрганием ниток всему и вся, это нонсенс
номер сообщения: 54-59-3832

103

LB


Петербург

26.11.2012 | 09:01:17
Сайт

все его сообщения:
за день, за месяц,
за все время
Vova17: И все-таки, ув. ЛБ, на чем основывается ваша убежденность в нравственности искусственного интеллекта, обладающего свободной волей. Даже на простом человеческом примере мы все хорошо усвоили, что гений и злодейство две вещи весьма совместные. Где же гарантия, что творение рук человека, не имеющее понятия о чувствах, совести, эмоциях и т.д. окажется нравственнее самого человека?


По-моему, чувства, совесть и нравственность являются атрибутами разума. Разум есть инструмент созидания. А без души возможно только разрушение. "Разум", лишенный чувств и нравственности - это не разум.
И еще раз хочу сказать, что ННР будет создан не людьми, а продолжением действия той силы, которая создала и самого человека. Но люди станут новой частью этой силы.

Идея стихийного возникновения ННР может показаться мистической. Но таково всё, возникающее без предварительной цели и четкого плана, и не способное возникнуть иначе.Например, Интернет как система коллективной памяти мог сформироваться только стихийно. Или изначально стихийная рыночная экономика, в то время как идея плановой экономики благополучно провалилась.
номер сообщения: 54-59-3833

104

Хайдук

26.11.2012 | 10:50:20

все его сообщения:
за день, за месяц,
за все время
LB: Идея стихийного возникновения ННР может показаться мистической.

Никак даже, только неясно какую роль сможет сыграть как раз плановый и эгоистический наш разум в заведомо стихийном возникновении ННР ?
номер сообщения: 54-59-3834

105

Michael_S

26.11.2012 | 19:13:19

все его сообщения:
за день, за месяц,
за все время
avi47:
То есть, Вы замахиваетесь на предположение, что в обозримом (иначе не стоит об этом рассуждать) будущем с помощью технического прогресса, в основном осуществляемом конструкторами компьютеров и программистами, руководимыми философами и прочими гуманитариями-специалистами по нравственности и культуре и проч. появится новая раса людей (или уже это будут сверхлюди)? При этом ключевым в моём вопросе является обозримость этой перспективы.


Я скорей поверю в позитронного робота с тремя вшитыми законами, чем в первоклассных железячников и програмёров, позволяющих собой руководить философам и прочими гуманитариям. Окромя специального случая - гуманитариев в погонах.
номер сообщения: 54-59-3835

106

Roger

26.11.2012 | 19:50:39

все его сообщения:
за день, за месяц,
за все время
Технократия - это утопия.

Ещё ни разу не видел общества, в котором руководили бы железячники и программеры. Может быть, Вас вводят в заблуждение цифры, которыми оперируют на бирже? Или смущает второе слово в словосочетании "social engineering"?
номер сообщения: 54-59-3836

107

Хайдук

26.11.2012 | 20:57:50

все его сообщения:
за день, за месяц,
за все время
Roger: Технократия - это утопия... вводят в заблуждение цифры, которыми оперируют на бирже?

Те, кто оперируют цифрами на бирже, не могут ли вершить судьбами?
номер сообщения: 54-59-3837

108

Michael_S

26.11.2012 | 21:10:02

все его сообщения:
за день, за месяц,
за все время
Roger: Технократия - это утопия.

Ещё ни разу не видел общества, в котором руководили бы железячники и программеры.


Я тоже не видел.
Но вопрос был не о том, кто руководит обществом, а о том кто руководит железячниками и програмёрами.
И тут ответ - либо альфа железячник/програмёр, либо мегакрутой менеджер по продажам типа Джобса. Либо гуманитарии в погонах.
Либо менеджер по продажам/гуманитарии в погонах думают, что руководят, а на самом деле ребята выпиливают лобзиком то, что интересно их альфе.

P.S.
В общем, со стороны все не так, как в академии, а на деле не просто что так, а более чем так.
номер сообщения: 54-59-3838

109

Хайдук

26.11.2012 | 21:55:03

все его сообщения:
за день, за месяц,
за все время
Руководить тоже требует таланта, и не одного. Хорошему начальнику не помешает усвоить на пальцах самое важное у технарей.
номер сообщения: 54-59-3839

110

Roger

27.11.2012 | 00:07:37

все его сообщения:
за день, за месяц,
за все время
Хайдук: Те, кто оперируют цифрами на бирже, не могут ли вершить судьбами?

Могут. Речь шла о том, что их циферки по форме напоминают те, которыми пользуются программисты, ну и компьютеры внешне могут быть неотличимы.

Michael_S: Я тоже не видел.
Но вопрос был не о том, кто руководит обществом, а о том кто руководит железячниками и програмёрами.
И тут ответ - либо альфа железячник/програмёр, либо мегакрутой менеджер по продажам типа Джобса. Либо гуманитарии в погонах.

Каждый человек достигает уровня собственной некомпетентности. Знание железа и софта начиная с некоторого уровня начинает просто вредить карьере. Ну а поскольку система многоуровневая, то наверху сепарируются только менеджеры разной степени крутизны и гуманитарии с погонами разного цвета.

Michael_S: Либо менеджер по продажам/гуманитарии в погонах думают, что руководят, а на самом деле ребята выпиливают лобзиком то, что интересно их альфе.

Это так и бывает, но совершенно не связано с компетентностью вышестоящего начальства. Кроме того, чаще всего наблюдается корреляция фигур лобзика с обозначенными начальством горизонтами.
номер сообщения: 54-59-3840

111

Хайдук

27.11.2012 | 00:40:13

все его сообщения:
за день, за месяц,
за все время
Полагаю, что хватило бОльшего, чем технарей, когда определяли то сочетание функций и выпендрёжей, что принесли столько бабла айфону
номер сообщения: 54-59-3841

112

LB


Петербург

27.11.2012 | 17:06:16
Сайт

все его сообщения:
за день, за месяц,
за все время
Хайдук:
LB: Идея стихийного возникновения ННР может показаться мистической.

Никак даже, только неясно какую роль сможет сыграть как раз плановый и эгоистический наш разум в заведомо стихийном возникновении ННР ?


'плановый и эгоистический наш разум' поработает на ННР не хуже чем на экономику. Жизнь будет порождать всё новые и новые противоречия, ставить вполне практические проблемы, а люди будут их благополучно решать "по мере поступления". И случится так, что побочные результаты этих решений (новые знания и технологии) рано или поздно направят развитие 'интеллектуальных машин' в совсем иное, новое русло
номер сообщения: 54-59-3842

113

Хайдук

27.11.2012 | 19:14:35

все его сообщения:
за день, за месяц,
за все время
Заявление сферху показалось довольно неинформативным, так сказать, основанным на голой вере. Любой ННР, способный составить нам вызов, поднимет почти неразрешимые морально-этические и экзистенциальные проблемы
номер сообщения: 54-59-3843

114

LB


Петербург

27.11.2012 | 19:58:12
Сайт

все его сообщения:
за день, за месяц,
за все время
Как уже говорилось, уверенность, что завтра взойдет солнце (а иначе зачем всё?) тоже основывается на вере.
Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла.
номер сообщения: 54-59-3844

115

Roger

27.11.2012 | 20:00:37

все его сообщения:
за день, за месяц,
за все время
То, что это уже говорилось, не означает, что это верно.
номер сообщения: 54-59-3845

116

Хайдук

27.11.2012 | 20:12:24

все его сообщения:
за день, за месяц,
за все время
LB: уверенность, что завтра взойдет солнце (а иначе зачем всё?) тоже основывается на вере. Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла.

Ну, разницы все-таки нельзя не заметить - вера в восход солнца основана на подавляющей прошлой статистике, чего нельзя сказать про веру в ННР
номер сообщения: 54-59-3846

117

LB


Петербург

27.11.2012 | 20:22:30
Сайт

все его сообщения:
за день, за месяц,
за все время
Roger: То, что это уже говорилось, не означает, что это верно.


Без веры в то, что верное верно, Ваше возражение тоже не имеет смысла. :)
номер сообщения: 54-59-3847

118

LB


Петербург

27.11.2012 | 20:32:00
Сайт

все его сообщения:
за день, за месяц,
за все время
Хайдук:
Ну, разницы все-таки нельзя не заметить - вера в восход солнца основана на подавляющей прошлой статистике, чего нельзя сказать про веру в ННР


There are three kinds of lies: lies, damned lies, and statistics
номер сообщения: 54-59-3848

119

Хайдук

27.11.2012 | 20:46:35

все его сообщения:
за день, за месяц,
за все время
Статистика не ложь, ЛБ, и это Вы хорошо знаете.

Кроме того, про восход солнца у нас хорошая теория, состыковывающаяся со многим чего. Случай с солнцем вообще железен, веру лучше чем-то другим поддержать
номер сообщения: 54-59-3849

120

Roger

27.11.2012 | 21:02:54

все его сообщения:
за день, за месяц,
за все время
LB: Без веры в повторяемость и "продолжаемость" прошлого и само познание не имеет смысла.

Вы уже приготовились к концу света, LB? Ведь он возможен, а значит, познание бессмысленно.

LB: Без веры в то, что верное верно, Ваше возражение тоже не имеет смысла. :)

Я бы на вашем месте обратил внимание на тот же корень в слове "вероятность".
А так же на корни "втор-", и "долг-" в словах "повторяемость" и "продолжаемость", говорящие о наблюдательном опыте.

Наблюдательный опыт не требует веры, но позволяет оценить вероятность допущения о том, что солнце встанет завтра. Чтобы познание приобрело смысл, достаточно, чтобы эта вероятность была выше нуля.

Большинство споров потеряют смысл если договаривающиеся стороны договорятся о терминологии. На мой взгляд, отличие веры от уверенности состоит как раз в рациональной основе и допуске альтернативных вероятностей.
номер сообщения: 54-59-3850

121

LB


Петербург

27.11.2012 | 21:06:04
Сайт

все его сообщения:
за день, за месяц,
за все время
Хайдук: Статистика не ложь, ЛБ, и это Вы хорошо знаете.

Кроме того, про восход солнца у нас хорошая теория, состыковывающаяся со многим чего. Случай с солнцем вообще железен, веру лучше чем-то другим поддержать


Возможно обосновать только необходимость ННР.

В история цивилизации не было таких угроз существованию человечества, которые не были бы предотвращены. Это тоже статистический вывод, кстати.
номер сообщения: 54-59-3851