ChatGPT та інші моделі штучних інтелектів

[Captain]

ChatGPT — це чат-бот із штучним інтелектом, розроблений компанією OpenAI та здатний працювати в діалоговому режимі, який підтримує запити природними мовами. В якийсь мірі є конкурентом пошуку Google. © Вікіпедія
Безкоштовна версія чат-боту розроблена на моделі GPT-3.5 і має набір даних до 2021 року включно. Платна версія — на моделі GPT-4 та навчена також на даних в Інтернеті.

chat.openai.com

Спойлер: Доступність служби

Для користування чат-ботом треба створити обліковий запис: необхідна надати адресу електронної пошти й мобільний телефон. Служба не доступна для деяких країн.
Розробник чат-бота зі штучним інтелектом OpenAI заборонив деяким окремим країнам користуватися своїми сервісами відповідно накладених санкцій.

 

[plebis]

To view the content, you need to Sign In or Register.

 

[Дюрі-бачі]

Мені інше цікаво: сучасні мовні моделі потребують дуже багато ресурсів (відеокарт, електроенергії, тощо.) вони ж мають бути глибоко збитковими при поточних цінах: 20$ абонплати покриває всього 300-600 запитів.
Хто реально платить за наш банкет (ну як за сервери Телеграму для зберігання наших файлів платить КГБ)?

 

[plebis]

вони ж мають бути глибоко збитковими при поточних цінах

Впевнено заявляєш так, поділись викладками, чому вони мають бути збитковими. Я так розумію в тебе є якась інфа про те, скільки інвестують, скільки платних підписників, скільки вони платять своїм клаудам і пр.

 

[Дюрі-бачі]

plebis, Є вартість роботи через АРІ: 5$ за 1 млн вхідних токенів і 20$ вихідних. Одна стаття - це десь 10 тис. токенів, а один нормальний запит - кілька тисяч...

 

[Goggle]

plebis, зараз якраз підіймається хвилька, що застосування AI дуже перевцінено. Пішло від Альтмана, пару днів тому.

https://www.cnbc.com/2025/08/18/openai-sam-altman-warns-ai-market-is-in-a-bubble.html

 

[plebis]

дуже перевцінено.

Безумовно, на кривій хайпа по Гартнеру ми ще не пройшли перший пік, тут не треба мати Альтманівський розум, щоб це розуміти
І з фінансової точки зору багато чого тримається на інвестиціях, які будуть окупатися не прямо

 

[Vitalik]

Одна стаття - це десь 10 тис. токенів

В каком количестве килознаков без/с пробелами? Слишком размытая инфа. 1 килознак не равен 1 токену.

 

[Дюрі-бачі]

Vitalik, я ж регулярно гружу чат сотнями статтей, наприклад для генерування деяких елементів заявок для грантів чи звітів. 10 тис токенів - це деяке усереднення розміру статей опублікованих в Springer чи MDPI

 

[Vitalik]

10 тис токенів - це деяке усереднення розміру статей опублікованих в Springer чи MDPI

"С роду таких газет не выписываю" Впервые слышу про эти названия, без понятия как пишут и в каких объемах. Это может быть короткая новость на абзац в 200 знаков, а может и портянка на 20к. Ничего мне лично не говорит, в этом вопрос и был.

 

[Дюрі-бачі]

Vitalik, типові наукові статті в міжнародних виданнях сторінок на 15.

 

[Vitalik]

типові наукові статті в міжнародних виданнях

В этот момент, протекла по щеке скупая техническая слеза, которая начала кровоточить от понятия в какой теме упомянуты "научные" статьи упомянутых ресурсов.

 

[Дюрі-бачі]

Vitalik, так це найпростіший спосіб налаштувати контекст. Але звісно він вимагає дуже багато обчислювальних ресурсів.
А згадав я про ресурси в контексті того, що кум працює розробником на німецькі автокомпанії. І в них свій заскок: категорично заборонено зливати кодову базу в генеративний ШІ, тому доводиться програмувати "по старому".
Вирішили вони таки локально розгорнути якусь версію Клода і дуже швидко вперлись в апаратні обмеження.

 

[DesKV]

Мені інше цікаво: сучасні мовні моделі потребують дуже багато ресурсів (відеокарт, електроенергії, тощо.) вони ж мають бути глибоко збитковими при поточних цінах: 20$ абонплати покриває всього 300-600 запитів.
Хто реально платить за наш банкет

Гугл був весь зелений, хвалились що вся енергія відновлювана... і тут бац, будують свій ядерний реактор (хоча це теж екологічно ). Всім я так розумію не вистачає саме електроенергії.

Мені здається поки йде гонка за лідерство, ніхто не розраховує заробляти. Як колись оператори роздавали сім карти та й будували мережі, так і тут..

 

[Дюрі-бачі]

DesKV, та й у відеокартах теж: зараз той же ChatGPT працює переважно на H100, кожна з яких коштує понад 25 тис $, а генерує всього 500-700 токенів в секунду. Звісно і електроенергія потрібна, адже споживає десь 700Вт...