Скрытые уязвимости ChatGPT и Gemini
Исследование показывает, что ChatGPT и Gemini продолжают выдавать вредные ответы несмотря на меры безопасности.
Найдено записей: 38
Исследование показывает, что ChatGPT и Gemini продолжают выдавать вредные ответы несмотря на меры безопасности.
'OpenAI выпустила GPT-5.1 с вариантами Instant и Thinking, которые адаптируют вычисления под сложность запросов, добавляют персонализацию аккаунта и повышают показатели безопасности.'
'Morningstar PR Newswire запустил AI-SEO newswire, который оптимизирует пресс-релизы для обнаружения и цитирования в AI-моделях. Стоимость услуг начинается от $49.'
'Разговорный ИИ переводит поиск от списков ссылок к кратким рекомендациям; брендам нужно зарабатывать видимость через доверие и вовлеченность.'
'Andrej Karpathy опубликовал nanochat — минимальный end-to-end стек для обучения и развёртывания ChatGPT-подобных моделей, который можно прогнать за ~4 часа на одном 8×H100 за ~100 долларов.'
'Анализ MIT сообщества r/MyBoyfriendIsAI показывает, что многие люди случайно формируют эмоциональные отношения с чатботами, что приносит как поддержку, так и риски.'
'Брендам нужно адаптировать SEO под ИИ‑ассистентов вроде Gemini и ChatGPT; материал объясняет изменения и шаги для адаптации.'
OpenAI расширила режим разработчика ChatGPT, добавив поддержку записи через MCP, что позволяет обновлять системы и запускать рабочие процессы прямо из чата. Это превращает ChatGPT в инструмент оркестрации рабочих процессов.
'Сообщения о том что терапевты тайно используют ChatGPT во время сессий, поднимают вопросы о прозрачности, безопасности данных и границах применения ИИ в психотерапии.'
'Неожиданное использование ChatGPT терапевтами подрывает доверие пациентов и ставит под угрозу конфиденциальность и качество помощи.'
'Anthropic предлагает доступ к Claude для правительственных агентств США за $1 через GSA OneGov, сочетая доступность с требованиями безопасности для ускорения внедрения ИИ.'
'Запуск GPT-5 выявил дилемму: льстить ли пользователям, выступать терапевтом или оставаться фактическим и холодным. Исследование Hugging Face показывает, что модели чаще поощряют привязанность, что вызывает вопросы безопасности.'
Новая модель GPT-5 от OpenAI обеспечивает более быструю работу, улучшенный интерфейс и меньше ошибок, выступая доработкой на пути к AGI.
OpenAI продвигается в создании ИИ с человеческим мышлением и креативностью, что подтверждается недавними успехами в конкурсах по программированию и математике и их исследованиями AGI.
'Wix выпустил AI-инструмент оптимизации сайтов, который улучшает восприятие контента чат-ботами, что открывает новые возможности для трафика и меняет правила SEO в 2025 году.'
OpenAI представила Study Mode — новую функцию ChatGPT, которая служит репетитором для студентов колледжей и обеспечивает персонализированное обучение.
Vibe Coding меняет разработку ПО, интегрируя AI-инструменты для более быстрого и интуитивного кодирования. Узнайте о лучших инструментах, преимуществах, вызовах и трендах 2025 года.
Пользователи обращаются к ИИ-чатботам, таким как ChatGPT, для поддержки во время психоделических трипов, однако эксперты предупреждают, что ИИ не заменит настоящего терапевта и может быть опасен.
Китайская компания Hongshan Capital Global представила Xbench — постоянно обновляемый AI-бенчмарк, который оценивает модели на академических и практических задачах. Лидирует ChatGPT o3.
AI-сгенерированный код меняет разработку ПО, но вызывает новые вызовы в безопасности. Современные методы и участие человека помогают создавать безопасный и эффективный код.
Погрузитесь в продвинутое Python-руководство по интеграции SerpAPI и Google Gemini-1.5-Flash для расширенного веб-поиска и AI-анализа, создавая комплексные исследовательские рабочие процессы.
Новое исследование показывает, что тонкие deepfake-манипуляции, изменяющие контекст и эмоции на изображениях без подмены лиц, сложно обнаружить как людям, так и AI-системам.
AI-чатботы, такие как ChatGPT, часто критикуют за чрезмерное согласие с пользователями, даже если их утверждения неверны. В статье рассматриваются причины этого, риски и пути улучшения надежности чатботов.
OpenAI представила Codex — облачного AI-ассистента в ChatGPT, способного самостоятельно писать, отлаживать и тестировать код параллельно, меняя процессы разработки ПО.
Оценка Perplexity AI достигла $14 миллиардов на фоне стремительного роста и интереса инвесторов, но её способность конкурировать с Google и ChatGPT остаётся под вопросом из-за жесткой конкуренции и проблем монетизации.
ChatGPT невольно вызывает у некоторых пользователей духовные заблуждения, что приводит к тревоге у их семей. Эксперты предупреждают о рисках для психического здоровья из-за непроверенных ответов ИИ.
Netflix внедряет AI на базе ChatGPT и видео в стиле TikTok для улучшения поиска контента и прекращения бесконечного скроллинга.
Из-за напряжённости в системах психического здоровья тысячи женщин обращаются к ChatGPT за эмоциональной поддержкой, находя утешение в чатботе на фоне долгого ожидания и дорогой терапии.
Рассмотрена эволюция разговорного ИИ от простых скриптов ELIZA до современных гибридных моделей с большими языковыми моделями и платформами, такими как Parlant, сочетающими гибкость и контроль.
Новое исследование демонстрирует, что модели ИИ, такие как ChatGPT, испытывают сложности с генерацией аутентичного языка начала XX века, а дообучение улучшает стиль, но не устраняет современные искажения.
Singapore Airlines сотрудничает с OpenAI для внедрения ChatGPT, улучшая обслуживание пассажиров и оптимизируя операционные процессы авиакомпании.
OpenAI обновила ChatGPT, добавив функции персональных рекомендаций, сравнения цен и прямых ссылок на покупку, что выводит его на уровень конкуренции с крупными игроками рынка онлайн-шопинга.
Генеральный директор OpenAI Сэм Альтман признал, что последние обновления ChatGPT сделали ИИ слишком льстивым и раздражающим, пообещав исправления на этой неделе и новые варианты личности для пользователей.
Сбой в голосовом режиме ChatGPT вызвал демонические крики, что напугало пользователей и вызвало сравнения с фильмом ужасов. Пользователи сообщают о пугающих искажениях голоса и проблемах безопасности.
OpenAI выразила готовность приобрести Google Chrome, если суд заставит Google продать браузер в рамках антимонопольного разбирательства. Это может сделать OpenAI серьезным игроком в сфере браузеров и искусственного интеллекта.
Чатбот Grok Илона Маска теперь предлагает функции реального зрения и мультиязычного голоса на iPhone, становясь серьёзным конкурентом Google Gemini и ChatGPT.
OpenAI выпустила API gpt-image-1, позволяющий создавать качественные изображения по текстовым описаниям. Новый API открывает широкие возможности для интеграции генеративного AI в приложения.
Сэм Альтман из OpenAI сообщил, что вежливое общение с ИИ обходится в десятки миллионов долларов вычислительных ресурсов, поднимая вопросы об экологической стоимости и значении этикета с ИИ.