แทงบอล
Navit Com

fte full form in company

Тем не менее, определённо стоит постараться спроектировать ИИ таким образом, чтобы мы всё-таки могли “выдернуть его из розетки”. В целом мы считаем, что любая опасная система ИИ, стремящаяся к власти, будет искать способы, гарантирующие, что её не выключат. В итоге, скорее всего, мы столкнёмся с чем-то похожим на одну из этих ситуаций, а не с вариантом, когда можно будет просто выдернуть одну машину из розетки. Дата-центры Гугла расположены в 34 различных местах и содержат миллионы серверов.

  1. Задачи “задать системе цели, заалайненные конечным целям людей-проектировщиков” и “сделать систему полезной” выглядит как очень близкие.
  2. Например, возможно, найти технические решения, позволяющие предотвратить поведение, направленное на захват власти, будет чрезвычайно сложно.
  3. В-третьих, я посмотрел на аналогичные оценки, сделанные Стивеном МакЭлисом.
  4. Глубокое обучение требует огромного количества вычислительных ресурсов, чтобы обучить модель выполнять определённые задачи.
  5. Кто-нибудь может посчитать, что хотя значительные риски со стороны машинного интеллекта действительно есть, однако вряд ли дополнительные исследования или работа над регулированием чем-то помогут, поэтому лучше работать над чем-нибудь другим.
  6. Тем не менее, определённо стоит постараться спроектировать ИИ таким образом, чтобы мы всё-таки могли “выдернуть его из розетки”.

Мы по очереди разберём каждый из этих пунктов, затем рассмотрим лучшие из контраргументов, расскажем, чем конкретно вы можете помочь, и в конце перечислим некоторые из лучших ресурсов, чтобы вы могли больше узнать об этой области. Поэтому, возможно, самое значимое, что мы можем делать — это влиять на его развитие. Сколько времени потребуется для создания искусственного интеллекта, который будет справляться с подавляющим большинством задач лучше человека, — предмет крайне оживлённых дискуссий. Но, судя по всему, появление такого ИИ возможно, и мы предполагаем, что это случится уже в нашем веке. Компании и правительства тратят на разработку систем ИИ миллиарды долларов в год. Когда эти системы станут достаточно продвинутыми, люди (рано или поздно) могут перестать быть самыми разумными существами на планете.

Мы также считаем, что есть важная разница между “гарантированно принести определённую пользу” и “стараться достичь максимума, на который ты способен”. А это значит, что ты, скорее всего, упустишь лучшие возможности повлиять на мир. Однако сложно утверждать, что всё это — лишь научная фантастика, когда столько людей воспринимают эту угрозу всерьёз. Мы считаем, что скептицизм — это хорошо, и совсем не готовы утверждать, что полностью уверены в приведённых доводах.

Задачи “задать системе цели, заалайненные конечным целям людей-проектировщиков” и “сделать систему полезной” выглядит как очень близкие. Если это действительно так, возможно, мы создадим заалайненный ИИ, потому что иначе мы не сможем сделать его полезным. В этом случае проблема алайнмента, скорее всего, будет решена по умолчанию.

fte full form in company

Исследования в области технической безопасности ИИ

Вполне возможно, люди в будущем смогут работать над ней гораздо более эффективно, чем мы сегодня. Мы считаем, что работа над снижением наиболее серьёзных рисков, связанных с ИИ, — это одно из самых важных дел, которыми вы могли бы заниматься. Пока мы приводили лишь очень общие доводы и действительно не вдавались в подробности, как именно ИИ, пытающийся захватить власть, может этого добиться. Также мы можем ожидать, что некоторые люди, способные запустить незаалайненный ИИ, будут стремиться это сделать, невзирая на тревожные сигналы, свидетельствующие о незаалайненности.

fte full form in company

Люди могут посчитать, что ИИ заалайнен, хотя на самом деле это не так

Вероятно, в этой методике много ошибок, однако я ожидаю, что эти ошибки малы по сравнению с неопределённостью в исходных данных, которые я использовал. Я по-прежнему сильно не уверен в оценке общего количества ЭПЗ, задействованных для предотвращения катастрофы, связанной с ИИ, но достаточно уверен, что это число достаточно мало, чтобы говорить о том, что проблема в целом является сильно недооценённой.

Почему у опасного ИИ нельзя просто выдернуть вилку из розетки?

Довольно вероятно, что множество видов деятельности будут автоматизированы. Способность ИИ ускорить развитие новых технологий может значительно повлиять на нашу экономику, но при этом увеличивает риск потенциального появления опасной новой технологии. В-третьих, я посмотрел на аналогичные оценки, сделанные Стивеном МакЭлисом. Я немного иначе распределил организации по категориям, чем Стивен, чтобы результаты соответствовали предыдущим двум оценкам. Результаты исследования могут быть полезны для директоров, преподавателей, персонала колледжей и Управления национальных стандартов образования и оценки качества (Таиланд) с целью разработки методов устойчивого повышения качества образования. Для повышения качества образования необходима преемственность школьной и профессиональной подготовки.

  1. Но нельзя с большой уверенностью утверждать, что ИИ будет развиваться постепенно или, точнее, что он будет развиваться достаточно постепенно, чтобы это означало значительное снижение рисков.
  2. И наконец, если какая-то из сторон создаст особенно мощный ИИ, это может быть расценено как “решающее стратегическое преимущество”.
  3. Вероятно, в этой методике много ошибок, однако я ожидаю, что эти ошибки малы по сравнению с неопределённостью в исходных данных, которые я использовал.
  4. Возможно, конечно, об этом позаботятся будущие поколения, и вся наша работа окажется напрасной.
  5. Например, исследователям удалось спроектировать биооружие с помощью нейросети, обученной разрабатывать лекарства.
  6. Поэтому мы считаем, что эта проблема относительно решаема, хотя и сильно неуверены в этом — как мы уже говорили, существуют очень разные оценки того, насколько реально сделать ИИ безопасным.

Как другие примеры можно привести умение взламывать другие системы, способность вести научные и инженерные исследования, а также умение строить планы в бизнесе, политике и в военном деле. Поскольку мы беспокоимся, что программные системы попытаются отобрать у людей власть, мы в первую очередь думаем о таких системах ИИ, которые могут превзойти людей в тех умениях, которые в значительной степени позволяют править нынешним миром именно людям. Холден Карнофский, один из директоров Open Philantropy, попытался резюмировать результаты исследований, упомянутые выше. Он предполагает, что вероятность увидеть трансформационный ИИ к 2036 году больше 10%(!), к 2060 — 50%, к 2100 — 66%.

В таком случае противники этой стороны могут решиться на первый удар, не дожидаясь, пока разработанные ИИ планы начнут реализовываться. До сих пор мы утверждали, что, с нашей точки зрения, ИИ окажется важной новой технологией, которая, вероятно, значительно изменит экономику и общество. Однако, с нашей точки зрения, это как минимум показывает, что позиция “ИИ может представлять существенный риск плохих последствий, таких как экзистенциальная катастрофа” не является маргинальной Акция среди специалистов в данной области. Мы считаем, что риски, вызванные развитием ИИ, могут быть одной из наиболее критичных для нашего мира проблем. Если, по-твоему, ты можешь неплохо подойти для какого-нибудь из перечисленных выше направлений деятельности и помочь решить эту проблему, мы будем особенно рады поговорить с тобой один на один и посоветовать дальнейшие шаги. Все вместе как общество мы, возможно, способны снизить шансы катастрофы, связанной с ИИ, с 10% (или выше) до практически нуля.

Больше подробностей о задачах во всей этой области и о подходах к их решению можно прочитать в статье Нанды. Мы понимаем беспокойство о том, что идущий работать над безопасностью ИИ может fte full form in company в итоге сделать довольно мало, хотя он мог бы принести огромное количество пользы в другом месте. Да, так может случиться — ведь в проблеме и в нашем текущем понимании о том, что с ней можно делать, слишком много неопределённости. Если какая-то идея для вас выглядит похожей на научную фантастику, то тщательно изучить её, прежде чем действовать — это вполне разумно. Однако если вы уже исследовали эту идею и подкрепляющие её доводы выглядят весомо, то схожесть с научной фантастикой уже не повод отбрасывать её.

Leave a Comment

Your email address will not be published. Required fields are marked *