URL: https://www.opennet.ru/cgi-bin/openforum/vsluhboard.cgi
Форум: vsluhforumID3
Нить номер: 133643
[ Назад ]
Исходное сообщение
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL на базе OSTree и bootc"
Отправлено opennews , 08-Май-24 22:14 
Компания Red Hat представила дистрибутив Red Hat Enterprise Linux AI (RHEL AI), который специально адаптирован для выполнения задач машинного обучения и призван упростить создание серверных решений, использующих большие диалоговые модели. В состав входит подборка инструментов и фреймворков для машинного обучения, а также драйверы для использования различных аппаратных ускорителей AMD, Intel и NVIDIA, и компоненты для задействования возможностей  серверов Dell, Cisco, HPE, Lenovo и SuperMicro, оптимизированных для AI-систем...

Подробнее: https://www.opennet.ru/opennews/art.shtml?num=61140

Содержание
Сообщения в этом обсуждении
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено DeerFriend , 08-Май-24 22:33 
Версии софта такие же древние, как рхел?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Анонимус3000 , 08-Май-24 22:40 
Судя по контекстному окну в 4 тыс. токенов, да
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Король Управления Потоками , 08-Май-24 22:47 
А если обонвления отстают на одну патч-версию - то на сколько это древние? Я никак понять не могу, что значит "недавние", если патч - и уже древние. Объяснитие, пожалуйста, умоляю.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 08-Май-24 23:00 
RHEL славится отставанием не на N-1, а на Nx10 и более.
Потомушто стабЫльность.

В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно.

Потому и лулзы.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Кенгуру , 08-Май-24 23:35 
Ну, насчет нефиксенных багов - это вы не врите. Уж кто-кто а шляпа при всей её корпоративной уродливости фиксит всё очень оперативно
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено scriptkiddis , 09-Май-24 17:36 
ФиксилА и шляпы уже не существует по сути.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Бывалый Смузихлёб , 12-Май-24 13:25 
а кто существует ?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Dima , 09-Май-24 01:25 
Это ты про дебиан написал. В Рхел и свои патчи накладываются и фиксит всё оперативно.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено anonymous , 09-Май-24 03:14 
троллим? Они бабло на том и получают что патчат старые версии так что по факту и совместимость есть и суперсвежее все.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Афанасий , 09-Май-24 04:29 
Сразу видно человека, который RHEL в глаза не видел и тем более не работал с ним. Ты хоть посмотри список и их версии пакетов, дурашка...
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 06:27 
С багами вот так не сталкивался (лет 6 использовал 7 версию), всё работало нормально.
Современное прикладное ПО тоже поставить можно было (подцепляешь репозитории и норм)
А вот к концу срока поддержки начиналось...
Некоторые производители прикладного ПО дропали поддержку RHEL 7, так как им западло было поддерживать эту древность.
Да и в целом, с системным ПО тоже были неприятные моменты, так как пару раз наталкивался на такое, что в современной версии системного ПО что-то есть (ключи, возможности), а в RHEL 7 софт древний, так что простите, извините, извращайтесь как хотите...
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 10:55 
> В связи с этим, часто, возникают дурные ситуации, что баги, которые уже пофиксили давно как, все ещё присутствуют в "поставке по умолчанию" и вы, как оплативший поддержку, можете получить фикс к своей версии, если такое вообще возможно.

За 20 лет было актуально всего один раз для дурной видеокарты лэптопа. Всё. Во всех остальных случаях для получения нужного решения не требовался фикс бага.

Тогда как вечно проблемы и косяки с вечно сырыми latest и их недоделками новых фич в спешке.

Т.е. со свежими версиями невозможно строить и разрабатывать решение, которое не беспокоит по причине нескончаемых чужих и каждый раз новых багов.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено кент кента , 09-Май-24 11:08 
>RHEL славится отставанием не на N-1, а на Nx10 и более.
>Потомушто стабЫльность.

у меня 95% серваков на OL 8. ибо 9ка сырая, и в ядре чаще дырки находят и были инциденты развала после обновы. из базовой системы я лично только rsync пересобираю (где lz4 надо). всё остальное там нормальных версий. в appstream загляни, критик

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 08-Май-24 23:57 
Круто. Новости всё больше и больше походят на фантастические рассказы о более развитой инопланетной цивилизации и о её неземных технологиях.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 12:45 
Больше верьте фантазиям маркетологов.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 22:04 
Зачем кому-то верить, когда можно посмотреть, где созданы операционные системы вашего десктопа и смартфона? Весь мировой прогресс благодаря Евросоюзу и США двигается.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 10-Май-24 13:07 
>Весь мировой прогресс благодаря Евросоюзу и США двигается

Это потому-что ограбили весь мир и стянули его ресурсы в обмен на зеленые бумажки. Изобретатели всегда тянутся туда, где кормят. Так повелось с древнейших времен. Плюс убивают любой прогресс в "недерьмокартических" странах. Вернее, ранее убивали, запрещая индусу делать лопаты, и дозволяя купить лопату, сделанную в лондониумах. Сейчас у них это уже не получается, хотя стараются. Смотрим как забавно US пытаются загасить прогресс в Китае.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 00:03 
> для выполнения задач машинного обучения

Ясно-понятно. Не для дома, и даже не для серверов. ЦА - датацентры.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено аннаним , 09-Май-24 00:33 
мин. сис. требования 320гб gpu.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено 12yoexpert , 09-Май-24 01:11 
для дома и для мелких компаний норм, RX 7600 XT 16GB стоит 400 баксов, т.е. всего 8000 баксов на видеокарты, за 12-15К вполне можно всё собрать (в зависимости от хотелок на остальное железо)

и это всё без учёта скидок за крупную сумму покупки

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено аннаним , 09-Май-24 01:43 
Да не.. там что то на богатом в сис. требованиях. NVIDIA H100 итп

https://github.com/RedHatOfficial/rhelai-dev-preview?tab=rea...

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 03:31 
> RX 7600 XT 16GB

Этого даже для овощной llama с трудом хватит. Сейчас появляются llm'ки на 500 миллиардов и более параметров, а вот гигабайты на карточках что-то не особо поспевают за тенденцией. Не говоря о цене.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 10:07 
Нет конкуренции же.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 11:28 
И их ещё не просто купить
https://www.nvidia.com/en-us/data-center/h100/
https://habana.ai/products/gaudi3/
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 00:42 
>RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite

Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. К тому же, дистрибутив для запуска какой-то специальной, одной модели.

>на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров.

Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют лучшие на данный момент модели типа llama3), а во-вторых контекст в 4к токенов это ужасно мало. У той же лламы он 16к.


Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. Ну да и ладно, красношляпу не жалко, и её деньги тоже.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 04:00 
> 7 миллиардов токенов это мало для серьёзных задач

Для серьезных задач даже GPT-4 мало. Наигравшись приходит отрезвление, что не хватает контекста для чего-то более внятного, чем хеллоуворлд в одном единственном main.c 😁

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено penetrator , 09-Май-24 06:54 
программить они никогда не научаться, по-крайней мере пока там будет хоть сколь-нибудь творческой составляющей, и рассуждать не умеют - слишком тупенькие, а вот переводить, жонглировать контентом - уже приемлимо
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним с Оболони , 09-Май-24 07:07 
Ко́дят они неплохо, особенно алгоритмы, но концептуально непригодны (пока) для чего-то бо́льшего. Проблема, как выше точно подметили, в контексте. Это человек держит в мозгу огромный контекст когда что-то делает, а нейронка знать не знает чего от нее хотят.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 07:17 
Ты сейчас просто сказал что ИИ нужен грамотный менеджер. Это лишь вопрос времени. Когда менеджером сможет стать сам ИИ.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 11:01 
И хорошая база для обучения. ГПТ4 был обучен на основной аудитории форумов - толпе стажёров и середнячков, у кого знаний мало.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Роман , 09-Май-24 16:18 
Github Workspace Copilot который недавно анонсили - https://github.blog/2024-04-29-github-copilot-workspace/ ?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 19:16 
Кто пробовал - оно работает?

Вот прямо пишет код, без ошибок?

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Роман , 09-Май-24 20:07 
> Кто пробовал - оно работает?
> Вот прямо пишет код, без ошибок?

В интернетах люди пишут что работает в меру сил, но упираются в то что человек и сам то ещё не знает толком что хочет местами, когда оно уточняющие вопросы задаёт. На HN было недавно.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Роман , 12-Май-24 18:44 
> Кто пробовал - оно работает?
> Вот прямо пишет код, без ошибок?

В последнем эпизоде на данный момент ( 909 ) https://radio-t.com/p/2024/05/11/podcast-909/ Умпутун рассказывает про свой опыт - опыт не до конца успешный, но интересный, например в плане тестов

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено penetrator , 09-Май-24 17:34 
кодят очень плохо, все что они могут сделать, это перефразировать пример чужого кода, попробуй его заставить выйти за рамки этого примера в деталях, ты получишь все что угодно, но не правильно написанный код

я доводил их до инфаркта )) бот противоречил сам себе в одном предложении, но не потому что я его так просил, а потому что приходил он сам приходил к таким логическим выводам

а алгоритмы они кодят лучше другого, потому что они их все знают, но анализировать не умеют, а значит новых не напишут

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 18:32 
> кодят очень плохо

Луддитством попахивает (в прямом смысле). Может лучше признать реальность, а?

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 19:18 
Сначала попробуй ИИ, потом говори.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 19:23 
Во многих компаниях работа с чатжпт уже является обязательным требованием. Впрочем ты можешь успокаивать себя на своей уютненькой виндоус хр.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 07:15 
Точно так же говорили про то что ИИ не сможет водить автомобили.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 08:44 
Выпусти из города на трассу в межсезонье или снегопад.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 10:06 
И в среднем она проедет лучше тебя лол.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Bottle , 09-Май-24 11:43 
Поэтому автопилоты останавливаются, когда видят футболки со знаком "Stop"?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 15:37 
А люди, бывает, не останавливаются, даже когда грузовик впереди видят. Но соглашусь, что большинство водителей действительно непригодны для вождения.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено penetrator , 09-Май-24 17:29 
а они и не умеют, но мы сейчас о языковых моделях
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 09-Май-24 21:01 
IBM никогда не была сильна в математических алгоритмах. Достаточно ознакомиться с ее опубликованными исходниками SSP и ESSL. Многие расчетные функции - просто неработающая чепуха.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 10-Май-24 10:51 
Как же тогда IBM стала лидером как в квантовых вычислениях, так и в их симуляции?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 10-Май-24 13:57 
>Как же тогда IBM стала лидером как в квантовых вычислениях

Лидером где? В желтой прессе и на рекламных площадках? Так это просто бобла занести, станешь чего угодно лидером.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним 22 , 10-Май-24 14:09 
Как сказал кто-то из авиаконструкторов, если к забору прикрутить достаточно мощный двигатель, то  он полетит.
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 10-Май-24 10:54 
>Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон.

Это если у тебя карта NVidia. А если карта AMD, то хрен ты rocm соберёшь для своего дистра, потому что AMD так и не удосужилось ни сборочную систему в порядок привести, ни документацию нормальную написать. Вместо этого собирают сами, для старых версий Ubuntu, на которых как раз современного питона нет.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним 22 , 10-Май-24 14:13 
> свежий питон

Можно для примера предъявить текст программы на чистом Python (без использования библиотек на С) ну хотя бы для QR факторизации матрицы порядка, скажем, 100000?

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено Аноним , 10-Май-24 10:49 
>Grahite
>Apache-2.0

Нелюбимая на опеннете IBM ведёт себя куда этичнее, чем Googlag, Meata, Databricks и прочие, у кого модели под несвободными лицензиями, и на HuggingFace их даже скачать нельзя без аккаунта и отметки, что вот такой-то аккаунт принял лицензию и скачал (аккаунт - не обязательно пользователь, это недоработка HuggingFace, ждём идентификации пользователя по паспорту + бимотрии).

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено pic , 10-Май-24 15:59 
>Новый режим манипулирует монолитными системными образами, формируемыми при помощи инструментария rpm-ostree и обновляемыми атомарно без разбивки на отдельные пакеты.

Первый гвоздь в крышку гроба классическим серверным дистрибутивам.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено pic , 10-Май-24 16:01 
flatpak доедет до серверов?
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено нах. , 14-Май-24 18:08 
coreos давным-давно доехал и даже переехал половину...
"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено pic , 14-Май-24 23:09 
> coreos давным-давно доехал и даже переехал половину...

Спасибо, не интересовался, не знал.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено нах. , 15-Май-24 08:40 
завидую. Но это - ненадолго.

"пока он интересовался крокодилами - он их у себя держал. Когда крокодилы ИМ заинтересовались - быстренько подарил зоопарку."

видимо корявостьоса задрала редхатовцев и они решили обойтись без федориных ручек.

"Red Hat представил дистрибутив RHEL AI и режим сборки RHEL н..."
Отправлено анон , 12-Май-24 13:07 
"IBM sued again for alleged discrimination – this time against White males" дело против RedHat и IBM против дискриминации белых в оных (theregister). скажи "нет" RH :)