Конструктивная критика государства

[Александр Иванов]

Информация для размышления по теме, как развитие ИИ связано с этикой:

В погоне за когнитивным профицитом.

Минувшей весной произошло два знаковых события. Первое — крушение авиалайнера Boeing 773 MAX 8 в Эфиопии вскоре после того, как один самолет этой модели уже разбился из-за особенностей автоматической системы управления. Второе — по состоянию на конец марта 1% населения КНР, или 13,5 млн человек, оказался внесен в список «ненадежных» в рамках работы национальной системы кредита общественного доверия.

Эти два очень разных примера говорят об одном — о нарастающем использовании систем с элементами искусственного интеллекта (ИИ) при принятии этически важных решений. Как сложится судьба человека и даже вопросы жизни и смерти — во все большей степени в руках систем с элементами ИИ.

Развитие этой тенденции потребует коренной трансформации этических систем. Таков главный вызов. Нам предстоит создать общество, в котором этика человека будет изменена в результате интеграции ИИ в процесс принятия жизненно важных решений.

Иначе говоря, каждый человек должен будет получить ответ на вопрос, почему принятие жизненно важных решений искусственными разумными системами приемлемо, благотворно, желательно и в конечном итоге справедливо.

Это ужасный выбор. В каком-то смысле другого пути у нашей технологической цивилизации уже нет.

Распад этических систем

Вопрос о трансформации этики под давлением ИИ появился в повестке дня в тот самый момент, когда этические системы предыдущих волн оказались в фазе распада.

Это касается и традиционных этических систем, сформировавшихся в эпоху восхождения аграрных обществ. Система ответов о смысле жизни для человека, завершающего свой жизненный путь в 35–40 лет, не слишком подходит для человека, живущего в среднем 70–80 лет, для которого 35–40 лет — это и период психофизиологического расцвета, и время болезненной переоценки собственного пути.

Прежние ответы на вопрос «Почему я должен менять бесценные часы своей жизни на тот или иной тип коллективно одобряемого поведения?» все меньше удовлетворяют представителей самых разных слоев в самых различных обществах по всему миру...

https://roscongress.org/materials/v-...m-profitsitom/