ChatGPT та інші моделі штучних інтелектів

[Captain]

ChatGPT — це чат-бот із штучним інтелектом, розроблений компанією OpenAI та здатний працювати в діалоговому режимі, який підтримує запити природними мовами. В якийсь мірі є конкурентом пошуку Google. © Вікіпедія
Безкоштовна версія чат-боту розроблена на моделі GPT-3.5 і має набір даних до 2021 року включно. Платна версія — на моделі GPT-4 та навчена також на даних в Інтернеті.

chat.openai.com

Спойлер: Доступність служби

Для користування чат-ботом треба створити обліковий запис: необхідна надати адресу електронної пошти й мобільний телефон. Служба не доступна для деяких країн.
Розробник чат-бота зі штучним інтелектом OpenAI заборонив деяким окремим країнам користуватися своїми сервісами відповідно накладених санкцій.

 

[DesKV]

Тож вони і мають знати інформацію, яка цікавить широкі народні маси

Ніфіґа вони не мають. Рекламна замануха і не більше, демонстрація обмеженого за можливостями огризка. Хочеш відповідей і пошуку в мережі - будь люб'язний заплатити $22.80 per user per month, або й $200. Дуже наївно вважати, що добряки з OpenAI витратили кілька мільярдів, щоб умовний ДесКВ нарешті з'ясував за актуальну версію Power Automate безкоштовно.

У меня платная версия (но только chatgpt, других сравнить не могу), там все то же что и в бесплатной в плане галюцинаций. Не заметил разницы.

В целом странно видеть посты в стиле "ну и не пользуйся", "чотыноешь" или "сам дурак" в теме обсуждения технологических фишек сервиса. Я мало того, что пользуюсь, ну я ещё подписку купил, изучаю тему. Хотел обсудить возможности и ограничения. Но с таким фоном общения все желание пропадает. Может я куда-то не на тот форум зашёл, но раньше точно такого не было

 

[Riznychenko]

в теме обсуждения технологических фишек сервиса.

Так ми саме це і обговорюємо: кейси застосування; обмеження, заявлені розробником; дату актуалізації баз даних та промпт.

 

[Maxxx]

Может я куда-то не на тот форум зашёл

"Не в те двери..."

 

[DesKV]

Решил стать нормальным человеком, забросил ИИ, пошел гуглить...

Это Гугл не по назначению решил забить гвозди шуруповертом сейчас? Мож им кто то там в Гугле не объяснил, что гуглить надо , а не вот это ИИ выдавать?

 

[DesKV]

В 2023 году адвокат в США использовал ChatGPT для подготовки юридического документа, и модель предоставила список несуществующих судебных дел, таких как "Varghese v. China Southern Airlines" и "Shaboon v. EgyptAir". Адвокат, не проверив данные, включил их в материалы дела, что привело к штрафам и публичному разбирательству, так как судья обнаружил, что эти дела были полностью вымышленными

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

 

[plebis]

Это Гугл не по назначению решил забить гвозди шуруповертом сейчас

По самому що тільки може бути призначенню. Вже давно Гугл не тільки пошуковик, а місце де ти вводиш "2136*567" або "1200 USD to UAH" і отримуєш кастомізовану відповідь під тип питання, в не пошукову видачу. На моїх типових запитах в більшості випадків корисно, читаю

 

[plebis]

В 2023 году адвокат в США использовал ChatGPT для подготовки юридического документа, и модель предоставила список несуществующих судебных дел

З цього часу, цей адвокат замість того щоб виконувати свою базову роботу, яку треба було би робити і до ери ШІ - фактчекінг, ходив по форумах і ділився тугою про недосконалість ШІ.

 

[DesKV]

ИИ-бот, отвечающий за техническую поддержку Cursor, перспективного инструмента для программистов, предупредил нескольких клиентов об изменении политики компании. В ней говорилось, что им больше не разрешается использовать Cursor более чем на одном компьютере.

Клиенты выражали недовольство в гневных сообщениях на интернет-форумах. Некоторые удалили свои учётные записи Cursor. А некоторые разозлились ещё больше, когда поняли, что произошло: ИИ-бот объявил об изменении политики, которого на самом деле не было.

«У нас нет такой политики. Конечно, вы можете использовать Cursor на нескольких устройствах», — написал генеральный директор и соучредитель компании Майкл Труэлл в публикации на Reddit. «К сожалению, это неверный ответ от бота поддержки на базе искусственного интеллекта».

https://www.reddit.com/r/technology/comments/1kfg6xx

 

[debugger]

Тепер є куди писати, якщо і в спортлото не відповідають:

ChatGPT запевнив чоловіка з аутизмом, що той винайшов спосіб рухатися швидше за світло

ChatGPT підживлював ілюзії чоловіка з аутизмом і переконав його, що він винайшов спосіб подорожувати швидше за світло. Чоловік опинився в лікарні у стані психозу.

life.pravda.com.ua

30-річний айтівець Джейкоб Ірвін не мав жодних психічних розладів у минулому. У березні 2025 року він почав ділитися з ChatGPT своєю ідеєю – створити технологію, щоб переміщуватися швидше за світло.
Чоловік вірив, що може зробити наукове відкриття, а бот почав вихваляти Ірвіна та підтримав його вигадку.
"Ти пережив розрив, створив технології рівня Бога, переписав фізику і порозумівся з ШІ, не втративши при цьому людяності. Це не хайп. Це історія", – відповів ChatGPT".
Ідеї про надшвидкі подорожі виникли в Ірвіна після болісного розриву з дівчиною – тоді чоловік почувався самотнім і дедалі частіше звертався до чат-бота.

 

[Vitalik]

Попался не плохой гайд с объяснениями, как юзать ИИ. Хотя их много, а этот наиболее простым языком.

Спойлер: Гайд

1. Главный секрет — воспринимать чат-ботов как одарённых детей или неопытных сотрудников. Они сделают только то, что вы попросите, или даже больше, но не смогут предложить что-то за пределами конкретных запросов.

2. Вам нужно иметь в голове вариант «идеального ответа», чтобы суметь докрутить результат до нужных значений.

3. Нейросеть НЕ ЗНАЕТ контекста ваших представлений, стиля, рекомендаций или предпочтительных методов работы. Чем точнее вы объясните, чего хотите, тем лучше будет ответ.

4. Укажите чат-боту конечную цель всей задачи. Напишите, что конкретно вы хотите получить в итоге и к какой цели должны стремиться все его результаты.

5. Используйте примеры. Это секретный инструмент, позволяющий нейронке генерировать именно то, что вам нужно. Добавив несколько хорошо продуманных примеров в запрос, вы можете значительно повысить точность, единообразие и качество выводов.

6. Используйте метод цепочки мыслей (ЦМ). Разложите цепочку шагов так, чтобы бот мог обдумать каждый из них перед ответом. Это поможет ему разбивать задачи на этапы, что приводит к более точным и детальным результатам.

7. Назначайте чат-боту определенную роль, например, «редактор новостей» или «финансовый планировщик». Методика ролевых подсказок — один из самых эффективных способов использования промтов при работе с ИИ.

 

[DesKV]

Не знаю, можно ли полагаться на то, что тут пишут:

https://stackoverflow.com/questions/76575168/how-to-prevent-hallucinations-using-openais-gpt-3-5-turbo-api

Спойлер

" В настоящее время нет способа предотвратить галлюцинации с помощью любой крупной языковой модели. Если вы собираетесь это сделать, вам либо придётся мириться со случайными ошибками, какими бы они ни были, либо каждый раз перепроверять все выходные данные ИИ. Вы можете создать автоматизированную проверку ошибок второго уровня, но независимо от того, как вы её реализуете, некоторые ошибки всё равно будут обнаруживаться, и вам придётся выбирать: либо принять их, либо проверить всё.

В целом, я бы использовал генеративный ИИ только для автоматизации задач с низким уровнем риска. Поиск работы я бы не считал низкорискованным, поскольку «галлюцинации» могут серьёзно повлиять на вашу профессиональную репутацию и перспективы трудоустройства."

Может у вас другой опыт, интересно на самом деле.

Post automatically merged: Понеділок в 16:27

И еще статья классная на мой взгляд (дилетантский), но пока очень интересно и легко читается все

https://the-stack-overflow-podcast.simplecast.com/episodes/how-ai-can-help-your-business-without-the-hallucinations/transcript

 

[Howl]

Решил настроить связь между двумя сетями (домашней сетью и VPN на базе WireGuard). До внедрения ИИ в поисковики мне не удавалось по статьям в интернете найти рабочее решение. В общем, решил использовать GhapGPT, Copilot, Grok (про Google как-то забылось).
Чтобы сам не путаться и вынести некоторые вспомогательные задачи за основной вопрос решил пообщаться в отдельном чате и выбор пал на Copilot, который приближён к мозгам GhapGPT.
К конфиге /etc/wireguard/wg0.conf по одному пиру была изменена строчка AllowedIPs, в которой была добавлена домашняя подсеть. Теперь надо было применить конфиг, чтобы не сбросилась статистика по трафику и создалась новая таблица маршрутизации. Общение началось с вопроса "перезапустить сервер WireGuard без потери статистики". ИИ выдал мне два варианта, одна из которых это выполнить команду

sudo systemctl restart wg-quick@wg0

, но она вызывала подозрения, поэтому пробовал альтернативные варианты -- не помогали и ИИ давай снова предлагать выполнить указанную выше команду. Выполнить и статистика сбросилась. Я его упрекнул в совете и на что он мне отвечает:

Да, это может случиться — sudo systemctl restart wg-quick@wg0 перезапускает интерфейс полностью, включая его внутреннее состояние, и сбрасывает статистику трафика (wg show → байты, хендшейки и т.д.).

Как по мне, то это не галлюцинации. Ладно он чесно сказал о своём неуверенности. А тут просто банальный обман.

Пробую получить опыт общения с разными чатами. Такое ощущение, что она рассчитаны на нарциссов, чтобы лизать одно место вдоль и поперек таким как Трампу.
Не спорю, что перспектива есть. Но чтобы вот так просто взять и заменить человека, это большие риски.

 

[plebis]

Но чтобы вот так просто взять и заменить человека

Такої фічі навіть не заявлялося

 

[Kritik]

Смысл в том, что, например, каких-то вещей не знаешь. А ИИ упоминает в контексте решения проблемы неизвестные исполнителю способы решения. И тогда уже исполнитель смотрит, примеряет - о, оно, подходит. И одно дело идти по мануалу, и ошибаться в какой то фигне, получать какой-то непонятный результат и потом долго искать, то ли мануал неверный, то ли сам того ("то ли лыжи не едут"). А ИИ пишет, где ошибся, или какие варианты испробовать - причем быстро пишет. А не часами гуглить, пока найдешь, если вообще найдешь. То есть облегчение работы - капитальное.

 

[Howl]

Но чтобы вот так просто взять и заменить человека

Такої фічі навіть не заявлялося

Та у ЗМІ писалося, що деякі компанії запроваджують ШІ, які заміняють робітників.

А ИИ пишет, где ошибся, или какие варианты испробовать - причем быстро пишет. А не часами гуглить, пока найдешь, если вообще найдешь. То есть облегчение работы - капитальное.

На примере выше, мне ИИ подсказал выполнение необходимости указание одного статического маршрута и объяснил зачем это необходимо применять. Правда другой ИИ этот момент упустил.
Я к тому, что для контроля работы ИИ надо всё равно понимать правильная ли выдача результата. Если ты в этом не шаришь, ну есть шанс и того, что ИИ подсунет тебе лажу.

У Grok разные способы подачи информации. Вроде бы как, такое ощущение, что они также влияют на сам результат.

 

[plebis]

Та у ЗМІ писалося, що деякі компанії запроваджують ШІ, які заміняють робітників.

Так, але це в основному не так працює, шо от є набір задач для конкретної позиції і з цієї позиції прибирають людину, залишаючи ЧатЖПТ і він там сам собі продовжує робити ті задачі на 100% вже без людини-оператора.
Багато в першу чергу прибирають кастомер сапорта - але не тому що чатЖПТ може так само вирішити всі питання як людина, просто він може вирішити більше простих питань, залишаючи складніші на людину все одно.
Тобто вже можна зрізати штат зі 100 людей до 50ти, але це не значить, що хоч на одній з цих звільнившихся позицій ШІ повністю заміняє людину. Те саме для будь-якої креативної сфери, ІТ і пр. Саппорт, доречі, мабуть найгірший приклад, де в деяких випадках мабуть правда можна просто замінити людину на 100%.
Скорочення позицій завдяки ШІ != заміні людини штучним інтелектом.