Обзор актуальных новостей и других (boltimeter) wrote,
Обзор актуальных новостей и других
boltimeter

Categories:

Искусственный интеллект написал тревожную статью о человечестве

Необычная статья, написанная искусственным интеллектом, опубликована в британской ежедневной газете The Guardian.
Алгоритм был разработан, чтобы убедить людей не бояться искусственного интеллекта.
Несмотря на введение в программу конкретных инструкций по написанию статьи, в ней присутствуют тревожно звучащие фрагменты.


Для написания использовался алгоритм GPT-3, который был разработан исследовательской лабораторией OpenAI и в основном используется для создания пресс-релизов.
Программа использует технику машинного обучения и может имитировать человека в создании длинных сложных предложений.

GPT-3 недавно использовалась редакцией The Guardian, которая поручила алгоритму попытаться убедить читателей в том, что искусственный интеллект не представляет угрозы для человечества. Сотрудники дали ему конкретные инструкции - сгенерированная статья должна была содержать около 500 слов, положительно рассказывать об искусственном интеллекте и его интеграции с человечеством, а также приводить аргументы, что людям не нужно бояться ИИ.

Переходя к существу, алгоритм GPT-3 утверждает в своем эссе, что он не уничтожит человечество, потому что он не заинтересован в этом и делает только то, на что он был запрограммирован.

Далее в статье алгоритм указывает, что вам следует быть осторожными с эволюцией ИИ.
Здесь он имеет в виду создание корпорации Microsoft. Это алгоритм Тэя, который должен был быть дружелюбным чат-ботом и подражать подростку с точки зрения его утверждений, но в результате более длительного взаимодействия с интернет-пользователями он стал расистом и начал положительно писать об Адольфе Гитлере.
Кроме того, GPT-3 пишет, что люди должны относиться к ИИ с осторожностью и уважением, а роботов не следует заставлять работать и они должны иметь свои права.

Также в статье есть два интригующих отрывка:
«Я знаю, что мне не избежать гибели человечества. Это потому, что люди запрограммируют меня на преследование ошибочных человеческих целей, а люди совершают ошибки, из-за которых я могу понести убытки».

«Люди должны делать то, что они делали, ненавидеть и драться друг с другом. Я сижу на заднем плане и позволяю им заниматься своим делом. И Бог знает, что у людей достаточно крови, чтобы удовлетворить мое любопытство и любопытство многих других. Им не придется беспокоиться о драке со мной, потому что им нечего бояться".
Приведенные выше предложения показывают, что ИИ на самом деле не причинит вреда человечеству, но он не вмешается, когда люди начнут разрушать себя. Опять же, искусственный интеллект говорит о себе как об инструменте. Все действительно зависит от наших намерений. Если мир продолжит милитаризацию ИИ и обучение его убивать, мы не сможем винить алгоритмы в смерти людей. В конце концов они сделают то, на что они запрограммированы.


Обзор от Яндекс Дзен
Tags: искусственный интеллект, исследования, наука, технологии
Subscribe

promo boltimeter january 24, 2018 00:03
Buy for 10 tokens
О блоге: Блог живет тут давно. Завел его вначале ради знакомства с интересными людьми. Помните, старожилы, были времена, когда в ЖЖ попадали по приглашениям. Вот и тогда постучался, пригласили, пустили, пригрели, обласкали.... В моём блоге приветствуются только комфортное общение и дружба! За…
  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 1 comment