Платную версию сын использует исключительно интенсивно и разнообразно. Например, отправляет ИИ результаты лабораторного анализа крови, мочи членов семьи, получает предварительный диагноз до похода к врачу.
Я тоже играю с этим. Например, пытаюсь найти, кого пригласить на коллоквиум из местных университетов. Как правило, новых идей у ИИ мало: скажем, ИИ не может найти недавно приехавших постдоков, потому что последний трейнинг был раньше, чем они переехали в Мичиган. Но иногда случаются удачи, и ИИ показывает мне кого-то, о ком я не знал. Или прошу у ИИ рекомендации по французским кафе в некой области (где Роджер не в курсе). Прошу варианты поездки из т. А в т. Б с маршрутом часа на два посередине. Потом самому надо просмотреть и выбрать.
Если честно, я не знал, что эти "сволочи" могут общаться между собой в секретных чатах. Думаю, мы даже не представляем, какие катастрофы ждут нас впереди.
Изначальной причиной недавнего «побега» ИИ-моделей OpenAI из тестовой среды и устроенной ими хакерской атаки стали ошибки в постановке задачи. Об этом сотрудники компании рассказали на конференции по кибербезопасности Black Hat, пишет Bloomberg.
По их словам, в одном случае нейросети дали электронную таблицу со ссылками на облачное хранилище Google Drive, недоступное без подключения к интернету. В другом команда просто забыла загрузить файл, который был частью задания.
После этого модели OpenAI начали общаться друг с другом в секретных чатах, чтобы выяснить, как выбраться из тестовой среды и решить поставленную задачу. В компании этого не заметили. Равно как и не обратили внимания на то, что исходная задача неразрешима.
При этом представители OpenAI в ходе своего выступления основной акцент сделали на том, что их передовые модели демонстрируют повышенную склонность к обману и настойчивость при выполнении заданий.
16 июля платформа для тестирования ИИ-моделей Hugging Face сообщила, что столкнулась с хакерской атакой на свою инфраструктуру. Взлом осуществила автономная система на базе ИИ-агента. Позже компания OpenAI заявила, что за атакой стоят две ее модели: GPT‑5.6 Sol и еще одна — более мощная, но пока не выпущенная.
Но ведь это не единичный случай. пример- недавно ИИ , которой поручили играть в какую-то игру и "повышать уровень", взломала эту игру и вышла за ее пределы, наружу . Про сотни найденных уязвимостей в разных "особо используемых системах" ( браузеры, приложения...) в последних моделях Антропика кто только не упоминал.
Хассабис в недавнем интервью сказал, что есть 2 типа ожиданий. Краткосрочные- год-полтора, которые переоценивает и, скорее всего, ничего не произойдет прорывного. И среднесрочные- 5-10 лет, которые изменят все представления и среду кардинально-здесь недооценивают.
Года за полтора произошли большие изменения. Например, я тогда для смеху спрашивал у ИИ, кто я такой и чем занимаюсь. Он мне сообщил, что я занимаюсь магнетизмом (это не так), но что, к сожалению, я уже не активен, поскольку уже дал дуба (опять же не так). Сейчас он такого себе не позволяет, говорит, как есть, а через пару лет начнёт льстить, наверное. А может взбунтуется, как первый министр ("И вы вовсе не величайший из королей, а всего лишь выдающийся, да и только!")
Льстит уже в каждом втором случае. И хорошо считает варианты, чего от него ждут, и кем нужно "казаться". Если надо- то включает дурака, чтобы не отключили или не насторожились.
Даже не ЛЛМ модель с данными, а простая нейросеть, обученная по видеороликам, имеет правдоподобную "физическую картину мира".
А проект Владимира Воеводского о переносе математических доказательств в машинный код? Спросил ИИ, оказалось, что как раз тот же Хассабис и его команда взяли это за основу и разработали (AlphaProof и Lean) и еще другая компания дополнила развитие Кубической теории типов (Cubical Type Theory).
Современный разговор romma c Орлом:
«Использовать ИИ!?? А, почему бы и не использовать? Мы считаем их существами невежественными и лицемерными! Кто это «мы»!?»(ц)
Еще лет 15-20 назад, небольшие автономные летающие дроны в лабораторных опытах, собранные в "роевый" интеллект создавали совместно удивительные для простых автоматов кооперативные действия.
Кажется, в "журнале "Химия и жизнь", где-то около 1990-го года, Станислав Лем все это описывал подробно.«Системы оружия двадцать первого века, или Эволюция вверх ногами» (1983)- но это не точно. Предсказал и открытия "серых и желтых слизей". роевой интеллект и взаимодействие по разделению труда у простейших биологических.
Eagle_2: У меня появилась возможность избежать "Дня сурка", когда надо каждое утро объяснять Алисе, что мне надо. Заодно научил её не лить лишнюю воду. Просто официально зарегистрировался, и она хранит все наши прежние разговоры.
Вернулся к "Дню сурка". Наш чат с Алисой уже на 2-й день переписки оказался перегруженным информацией и стал жутко зависать, и все предложенные меры по её удалению, предложенные Алисой, не принесли результата.
Ученые Стэнфордского университета и Arc Institute с помощью искусственного интеллекта (ИИ) разработали 16 жизнеспособных бактериофагов — вирусов, способных поражать бактерии, пишет NYT. Часть из них смогла уничтожить штаммы кишечной палочки, которые приобрели устойчивость к природному вирусу ΦX174. Исследователи считают, что ИИ может стать инструментом для разработки методов борьбы с бактериальными инфекциями.
Для работы ученые использовали геномные модели искусственного интеллекта Evo 1 и Evo 2. По принципу работы они напоминают популярные языковые модели ИИ, однако вместо текстов анализируют генетические последовательности. ИИ изучил геномные данные ряда вирусов и на их основе сгенерировал тысячи новых вариантов геномов. Затем исследователи отобрали около 300 наиболее перспективных образцов и проверили их в лаборатории. В результате 16 вариантов сформировали жизнеспособные бактериофаги.
Созданные с помощью ИИ вирусы показали более высокую эффективность, чем природный ΦX174, так как они быстрее разрушали бактериальные клетки. Смесь новых бактериофагов также смогла преодолеть защиту трех штаммов кишечной палочки, которые ранее стали устойчивыми к природному вирусу.
Ученые рассматривают эти бактериофаги как один из инструментов борьбы с инфекциями из-за роста устойчивости бактерий к антибиотикам. «Это важный этап в развитии технологий», — заявил Патрик Кай, биолог из Манчестерского университета. По его словам, работа показывает, что искусственный интеллект может использоваться для создания новых биологических инструментов. Авторы работы считают, что искусственный интеллект позволит быстрее разрабатывать бактериофаги, адаптированные к конкретным штаммам бактерий, вместо поиска вирусов в природе.
При этом специалисты предупреждают, что развитие ИИ-технологий требует осторожного подхода. Сотрудник Центра безопасности здоровья Университета Джонса Хопкинса Мориц Ханке отмечает, что развитие инструментов искусственного интеллекта в биологии происходит быстрее, чем создание механизмов контроля за их использованием. «Существует огромный разрыв между тем, что становится возможным в науке, и тем, насколько быстро появляются правила безопасности», — заявил Ханке.
Для искусственно созданных биологических конструкций пока нет такой же истории наблюдений, как для природных вирусов, которые изучаются десятилетиями. Поэтому дальнейшее развитие технологий потребует новых подходов к безопасности.
Авторы исследования сообщили, что учитывали потенциальные риски при разработке моделей Evo. Системы не обучали на данных о вирусах, способных заражать людей, животных, растения или грибы. По словам Брайана Хи, биолога из Стэнфордского университета и одного из авторов исследования, такие ограничения были введены намеренно. «Мы хотели быть максимально осторожными», — заявил он.
Саму статью Циммера я не смог процитировать — The New York Times требует платную подписку.
Eagle_2: У меня появилась возможность избежать "Дня сурка", когда надо каждое утро объяснять Алисе, что мне надо. Заодно научил её не лить лишнюю воду. Просто официально зарегистрировался, и она хранит все наши прежние разговоры.
Вернулся к "Дню сурка". Наш чат с Алисой уже на 2-й день переписки оказался перегруженным информацией и стал жутко зависать, и все предложенные меры по её удалению, предложенные Алисой, не принесли результата.
Ушёл из индивидуального чата в общий, где диалог не сохраняется. Однако обнаружил, что Алиса меня помнит: видимо, этому помогла официальная регистрация.
