ChatGPT та інші моделі штучних інтелектів

[Captain]

ChatGPT — це чат-бот із штучним інтелектом, розроблений компанією OpenAI та здатний працювати в діалоговому режимі, який підтримує запити природними мовами. В якийсь мірі є конкурентом пошуку Google. © Вікіпедія
Безкоштовна версія чат-боту розроблена на моделі GPT-3.5 і має набір даних до 2021 року включно. Платна версія — на моделі GPT-4 та навчена також на даних в Інтернеті.

chat.openai.com

Спойлер: Доступність служби

Для користування чат-ботом треба створити обліковий запис: необхідна надати адресу електронної пошти й мобільний телефон. Служба не доступна для деяких країн.
Розробник чат-бота зі штучним інтелектом OpenAI заборонив деяким окремим країнам користуватися своїми сервісами відповідно накладених санкцій.

 

[Lets]

Ну вот как после этого искать там что-то?

все ошибаются, исключений нет...

 

[DesKV]

Так, а как им пользоваться тогда? Сколько раз уточнить нужно чтобы понять, что этот ответ не галлюцинация? Или это и есть использование не по назначению?

 

[ПотапаПапа]

Так, а как им пользоваться тогда?

Да очень просто! Если своих галлюцинаций не хватает- заходишь в чатик жопити и... вперде!

 

[DesKV]

Оказывается я делаю ИИ лучше, а вы говорите ремень, заглушка, ищешь недостатки, ничего не сделал сам. Сделал!

P.s. кстат вот тот момент, про который я говорил раньше, что можно говорить "а ты уверен? А точно? А представь что ты разработчик java и теперь ответь " )

 

[ГлавБухАрик]

подскажите тогда как пользоваться, чтобы не было у ИИ этих... галюцинаций.

Відразу формулювати питання на кшталт "Знайди мені в мережі відповідь про останній реліз", а не "Якій останній реліз ти знаєш"(коли відповідь дається з внутрішньої бази - не завжди оновленої)

 

[Vint]

При розробці потрібно завжди заявляти останні версії, тому що інфи по старих версіях більше та ШІ буде їх пихати в усіх відповідях як більш достовірні дані.

Оказывается я делаю ИИ лучше, а вы говорите ремень, заглушка, ищешь недостатки, ничего не сделал сам. Сделал!

P.s. кстат вот тот момент, про который я говорил раньше, что можно говорить "а ты уверен? А точно? А представь что ты разработчик java и теперь ответь " )

 

[Vitalik]

Так вы подскажите тогда как пользоваться, чтобы не было у ИИ этих... галюцинаций.

Главное - отсутствие двусмысленности. Четко поставленный вопрос/задача = нужный результат. ГлавБухАрик, хорошо объяснил на конкретном примере. Здесь от ПотапаПапа, отличная реализация.
В твоем случае получилось примерно вот так:

Спойлер: Как ставил задачу, то и на выходе

- Сделай стрго по чертежу!

- Шеф, готово!

 

[DesKV]

А какая двусмысленность может быть в запросе последней версии ПО? Ведь он ответил же ещё состоянию на июль такая то версия (неправильная).

P.s. кстати в плане понять что хочет клиент, у ИИ наоборот лучше получается понять заказчика, я не знаю почему. Мы иногда хотелки в ИИ загоняем и тогда становится понятно что означает "собрать компьютер для ПК". Иногда думаешь, ну точно не поймет, а он все "понимает" (ну само собой это все "зеркало", а не мышление, но прикольно!). А вот такие галлюцинации сбивают с толку, когда на прямой однозначный вопрос приходит уверенный неправильный ответ.

 

[Дюрі-бачі]

Завжди потрібно починати діалог з сетапу в дусі "You are an academic expert. You must not generate any answer not directly supported by a peer-reviewed scientific article. Search only in such literature. Always provide proper references. Say “I don’t know” if no evidence is found. "

 

[Vitalik]

А какая двусмысленность может быть в запросе последней версии ПО?

Довольно много: на какую дату, для кого конкретно, под какие цели и пр. Это не гадалка, как написано, так и ответит, с такой же точностью интеллекта вопрошающего.

 

[DesKV]

Жирные намеки что в галлюцинациях ИИ виноват вопрошающий звучат конечно вдохновляюще. Но последняя версия, это последняя версия и естественно на сегодня (я же сегодня спрашиваю). А то как политик отвечает - в зависимости от целей, на какую дату, может ещё время года надо было указать или вообще может описать ТЗ как буду использовать и вот тогда бы он конечно бы не страдал галюцинациями (нет).

 

[Vitalik]

DesKV, обращаешься ко мне, как к адвокату ИИ. Мысль моя была в том, что это инструмент, и надо мозги включать по полной дабы им пользоваться. Как шуруповертом гвозди забивать не получится, так и здесь. Оно пока действует по плану "что вижу, то и пою".
Старый анекдот вспомню (с матами, осторожнее), суть надеюсь поймешь. Если нет, ну, увы:

Спойлер: Древнее объяснение ИИ на момент данного поста:

Мальчик, папа, мама, находят лампу с джином и его выпускают.
Джин: - Хорошо, выпустили, 3 желания, каждому по одному!
Мальчик: - Хочу хомячка!
Папа: - В п@ду хомячка!
Мама: - Из п@ды хомячка!

 

[SeriousSam]

Не читайте по утрам советские газеты. Не використовуй недосконалі інструменти, до поки їх не доведуть до ладу. Або їж те що дали і не жалівся

 

[Матвєй]

DesKV, там проблема, як помітив в тому, що він не живе теперішнім часом. До прикладу коли питаєш про айос 26, то він пише мол планується 19 і не гребе. Точно як і те, що для нього айфон 16 ще не вийшов. Тому якщо свіже щось треба, краще напиши йому теперішню дату на момент запиту

 

[Дюрі-бачі]

Матвєй, а як він може "жити теперішнім часом?" Він навчається на текстах, зокрема статтях в інтернеті, і якщо в більшості статтей "планується 19 iOS", то для нього то і є найімовірніша послідовність.
Взагалі деякі "дуже прості" для людини запити для LLM дуже складні. Особливо коли треба порівнювати щось з чимось

 

[DesKV]

їж те що дали і не жалівся

Не подобається такий підхід. Я якось навпаки за спілкування, пересуди, пошуки усяких особливостей. Це ж одна з причин, чому є форуми. Це ж так круто!

 

[Дюрі-бачі]

ИМХО коли запит занадто короткий то чат генерує дурню. Нормальний запит має бути такий щоб із 1 сторінки тексту чат згенерував 2-3.
Наприклад: я пишу відгук опонента на роботу аспіранта. Якщо я просто попрошу написати відгук чат, то це буде повна лажа. От якщо накидаю кістяк відгуку з основними моїми думками сторінок на 5, дам саму роботу і попрошу розширити до 10 сторінок - то тоді чат нормально налиє водички

 

[DesKV]

И все же это не равняется тому, чтобы просто выдать инфу про последнюю версию программы. Тут же конкретный запрос, как ни спроси, смысл один. Или не?

 

[ГлавБухАрик]

Тут же конкретный запрос, как ни спроси, смысл один. Или не?

Навіть в вверху цієї теми є напис

розроблена на моделі GPT-3.5 і має набір даних до 2021 року включно.

GPT-4o - Oct 01, 2023 knowledge cutoff
GPT-4.1 -Jun 01, 2024 knowledge cutoff

Ну що ж може піти не так, коли спитати "Якій останній реліз ти знаєш?" в липні 25?

 

[DesKV]

Тоді по перше чому він відповідає правильно після уточнення? А по друге він видав дані за 2025 рік, тільки місячної давнини.
Не збирається тут паззл

Ще скажу, якщо продовжувати уточнювати, він починає вигадувати неіснуючих версії