Empire of Al
6 Вознесение?
Наука в неволев
Рассвет торговли?
Капитализм——
катастроф
ЗА ПРИМЕЧАНИЕ
АВТОРА
Бег за троном
Из своего видео-квадрата член правления Илья Сутскевер, главный ученый OpenAI, был краток: Альтман был уволен. Объявление будет сделано в ближайшее время.
недостаточный посланник; он не был тем, кто преуспевал в донесении сообщений до своей аудитории.
«Был ли конкретный инцидент, который привел к этому?» — сначала прочитал Мурати из списка вопросов сотрудников.
Мурати продолжал читать документ. «Будут ли когда-н ибудь отвечены вопросы о деталях или никогда?»
Сутскевер ответил: «Держите свои ожидания на низком уровне.»—
Мурати попыталась унять нарастающее напряжение.
«Миссия гораздо больше, чем кто-либо из нас», — сказала она.
Альтман твитнул в своём фирменном стиле с маленькой буквы. «я так люблю команду openai.»
Десятки других сотрудников начали ретвитить эт
о с эмодзи сердца.—
прибыть в офис через пять минут, чтобы выступить с речью о новой концепции компании.
«ты бредишь»
«Эммет будет CEO ничего»
гигантское розовое сердце с надписью «OpenAI ничто без своих людей.»
OpenAI объявила о новом фонде в 1 миллиард долларов: программный гигант и поставщик облачных услуг Microsoft.
Глава 1
Божественное право
Маск начал чувствовать, что Альтман использовал его, чтобы взлететь к известности.
Это была не ошибка системы оценки YC, а скорее важный сигнал, основанный на данных, сказал он.
От обоих мужчин Альтман также узнал о важности построения отношений и создания «сетевых эффектов» как индивидуум.
Глава 2
Цивилизационная
миссия
OpenAI в качестве научного консультанта, а затем на полную ставку с несколькими его аспирантами.
мощный притяжение в Долине. В течение нескольких месяцев число сотрудников удвоилось.—
Несколько недель спустя она написала электронное письмо с темой «Привет от Тимнит».
Она по одному добавила электронные адреса исследователей. А затем нажала отправить.—
Позже он добавил: «Я действительно чувствую, что мы, как американцы, перестали сметь мечтать.»
«Наша цель сейчас… сделать лучшее, что можно сделать», — ответил Брокман. «Это немного расплывчато.»
Интерн позже был увековечен за свой героизм с трофеем » идиот».
На следующий день после Рождества того года Маск снова написал Олтману, Брокману и Сутскеверу:
Алтману нужно было быстро собрать средства.—
большинство людей согласились, хотя некоторые и неохотно, что LP был лучшим путем вперед.
Глава 3
Нервный
центр
Его тон был фактическим и окончательным, как будто он положил конец моим вопросам. И все же мы каким-то образом вернулись точно туда, где начали.—
Брокман попытался ответить: дипфейки. «Неясно, что мир становится лучше благодаря их приложениям,» сказал он.
«Несомненно, очень желательно, чтобы центры обработки данных были как можно более экологичными,» добавил он.
«В основном, я хочу работать над AGI до конца своей жизни», — сказал мне Брокман.
Каковы шансы на то, что трансформирующая технология может появиться в вашей жизни? — возразил он.
В 2022 году он стал
президентом OpenAI.—
Существовал ли исторический пример успешного распределения преимуществ технологии? — спросил я.
Глава 4
Мечты о
современности
интеллект—идея, которая определит меры прогресса в этой области и через десятилетия станет основой амбиций OpenAI.
взаимосвязанные соединения мозга, теперь основа современного ИИ, включая все генеративные системы ИИ.
ЭЛ МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО ВЫ УГРУЗИЛИ ИЗА:
Э 1ДЕМАЖЬ1НЕСЧАСТН ВТМместо поможет?
«Они, по сути, монетизируют общественные пространства и общественную жизнь», — сказал Нкоси.
Тимнит Гебру, чтобы серьезно поставить под сомнение доминирующее направление развития ИИ.
правила, заполняя пробелы экспертных систем. «На самом деле нам нужны оба подхода,» сказал мне Маркус.
теории заговора. Индустрия ИИ называет эти неточности «галлюцинациями».
Глава 5
Масштаб амбиций
так же, как первоначальное удержание GPT-2 изменило нормы для публикации исследований.
Глава 6
Вознесение
«Никто не был готов к этой ответственности», — вспоминает один из сотрудников. «Это не давало людям спать по ночам.»
Глава 7
например, Струбелл обучал нейронную сеть 4,789 раз в течение шести месяцев, чтобы достичь желаемой производительности.
ответственные, критические исследования социальных последствий технологий ИИ.
Статья «Стохастические попугаи» стала призывом к действию, поднимая центральный вопрос: Какое буду щее мы строим с помощью ИИ? Для кого и ради кого?—
Глава 8
Рассвет коммерции
Anthropic не делает этого.» Год спустя Google выпустит статью, которая обнародовала тот же результат.)
Глава 9
Капитализм катастроф
Рабочие, Венесуэла погружалась в худший мирный экономический кризис за последние пятьдесят лет.
Глава 10
С учетом препятствий, которые необходимо было преодолеть на пути к разработке GPT-4, звезды сошлись.—
В конце концов, предложение о реактивном принуждении было сокращено до чего-то гораздо более ограниченного.
Статья Крижевского 2012 года о ImageNet, которая познакомила мир с мощью глубокого обучения.
Он наконец подошел, чтобы поговорить с инженером: «Бро, выпей что-нибудь. Мы все здесь. Будь общительным.»
Инженер не сдвинулся. «Нет, все GPU плавятся. Все рушится.»—
Microsoft надеялась на это и, по сравнению с этим, сделала OpenAI еще более привлекательным.
что она передавала Microsoft, которая затем обращалась к тем же самым клиентам.
Глава 12
Разоренная
Земля
Арансибия усмехается, когда мы осматриваем сцену. «Ты чувствуешь себя как в Кремниевой долине?»—
Глава 13
Два Пророка
«Я зарабатываю — нет. Мне платят достаточно для медицинской страховки. У меня нет доли в OpenAI.»
для установления научной ясности о том, какие виды входных данных могут привести к опасным результатам.
«Согласование — это горящий огонь», — сказал он.
«Суперсогласование — это пылающий ад.»
“Почти ноль?” отвечает генерал-майор Лесли Р. Гровс, которого играет Мэтт Деймон, недоуменно.
Глава 14
Избавление
Глава 15
Гамбит
ответ. И она может просто помочь найти ответ», — говорит бывший коллега. «Она всегда права.»—
она всегда уклонялась. Она не хотела запутываться в его паутине и быть ему что-то должна позже.
«На высших уровнях OpenAI — это сложная среда,» продолжил он. «OpenAI сложнее, чем кажется снаружи.
«Может быть, я подожду с этим и пойму, что есть некоторые детали, которыми я могу поделиться», добавил он осторожно.
Тонер должен поговорить с Ильей, закончила Мурат, и узнать, что он чувствует себя комфортно делясь.—
Я больше не четырехлетний ребенок с 13-летним «брато м», который без согласия залезает ко мне в постель.
Я наконец принял, что ты всегда боялся меня больше, чем я боялся тебя.
Хотя он не был полностью уверен в этом мнении, он осторожно уклонился. Ему хотелось знать, что видит Тонер.
OpenAI нужно было исправить внешнее выравнивание, он считал, что нужно исправить внутреннее.
И знала ли Мурат что-нибудь о ситуации с Энни? — спросил Тонер.
ваша информация поступает не только от
Сэма», — сказала она.—
Никто из других членов правления не ответил ей. С этим, казалось, дело было закрыто.—
Глава 16
Через несколько дней первоначальные возражения Алтмана по поводу статьи Тонера появились в СМИ.
«Он сейчас так, так параноидален», —
компания. Она встала на сторону своих коллег-лидеров. Чтобы спасти ситуацию, Мурат! захотела вернуть Алтмана.
Через несколько минут мой Signal зажегся уведомлением: кто-то ответил.
Глава 17
Агентство артистов, задавало резкий вопрос: Что, по мнению Альтмана, он делает?—
Все это, казалось, сводилось к одному: тревога Альтмана проявлялась.—
Мурати добавил, что команда Superalignment сохранила свое обязательство по вычислениям на уровне 20 процентов.
В OpenAI моральный дух падал и угрожал дестабилизировать компанию.—
Глава 18
Формула для империи
«Какие идеи он имел?» — спросил Тайлер Коуэн, профессор экономики в Университете Джорджа Мейсона, который вел мероприятие.
Даже во время Омникризиса OpenAI Альтман снова начал переписывать свои определения.
Такой конфликт неизбежно произойдет снова, если структура останется прежней.
исследовательская лаборатория китайской компании
Baidu. В целом, Te Hiku использовал только две GPU.—
из Силиконовой долины, но весь мир не получает шанса повлиять на технологии,” говорит она.
Глава 10: Боги и демоны
Глава 13: Два Пророка
В
D
Е
G
J
Р
210Филлипс Экзетер Скул,
321Феникс, 279Пичаи,
Сундар, 169, 311Пикулт,
Джоди, 135Пиночет,
Аугусто, 273, 296Здание
397Пайпер, Келси, 388-90,
394, 403разграбленная
экстрактивизмПонг,
Мари-Терез, 104
Q
R
S
W
X
Z
О А В Т О Р Е
Penguin
Random House
Что дальше в вашем списке чтения?