Конструктивная критика государства

[July]

Сообщение от Александр Иванов

Цитата:
В последнее время произошел впечатляющий рывок в области развития и особенно применения искусственного интеллекта, основанного на использовании нейронных сетей. Получены грандиозные результаты при решении таких задач как распознавание речи, изображений и лиц. Данные технологии основаны на достаточно грубом копировании работы человеческого мозга и не всегда дают ожидаемые результаты. Задача науки понять, как работает ИИ. Технологии часто начинают работать раньше нашего понимания всех подробностей их работы. Без такого понимания неизбежно возникают разного рода инциденты. Примером такого потенциально негативного эффекта может служить атомная энергетика (Фукусима и Чернобыль). Такое же возможно и с искусственным интеллектом, если не будет полного понимания того, как он работает.

Основная проблема в теории ИИ — понять, почему работают нейронные сети, несмотря на то, что, с точки зрения классической математики, задача построения нейронных сетей некорректна, т.к. количество наблюдений (обучающих примеров) на несколько порядков меньше числа определяемых параметров, но, тем не менее, на практике сеть работает. Теоретического понимания, почему сеть работает у нас пока нет. Хотя это не должно нас останавливать от того, чтобы эти технологии массово внедрять. Основная задача ученых — как можно скорее узнать, как технологии ИИ работают.

Интересно конечно, т.е. разработчики и теоретики ИИ мягко говоря допускают образование некоего субъекта, порождающего и творящего? Такого себе даже автор "Франкенштейна" не позволил, ловко умолчав главный вопрос.

Сообщение от Александр Иванов

Что же получается, с одной стороны - нет полного понимания как работает ИИ и соответственно имеется вероятность "потенциально негативного эффекта", когда могут возникнуть "разного рода инциденты", наподобие Чернобыля и Фукусимы.
А с другой - "это не должно нас останавливать от того, чтобы эти технологии массово внедрять."
Разве это не безответственный подход?
В итоге, к чему может привести человечество соревнование в этой глобальной технологической гонке?
Но есть и более важный вопрос: разработчики ИИ увлекают нас в мир чистого интеллекта не уравновешенного духовностью. Культура, этика, мораль, нравственность - эти понятия вообще могут показаться устаревшими сторонникам технологического прогресса...

Есть прекрасная вещь Шекли как раз по этому поводу, небольшая, но весьма поучительная, "Страж-птица" https://e-libra.ru/read/177792-strazh-ptica.html
По моему нынешние предпосылки к ИИ как раз и определяются этим небольшим рассказом.