>RHEL AI предназначен для разработки, тестирования и выполнения систем машинного обучения на базе большой языковой модели Granite

Кому нужен целый дистрибутив запуска моделей? По-моему, с этим неплохо справляется любой дистрибутив, у которого в репах есть рокм/куда и свежий питон. К тому же, дистрибутив для запуска какой-то специальной, одной модели.

>на базе большой языковой модели Granite, открытой компанией IBM под лицензией Apache 2.0, способной учитывать при генерации текста до 4 тысячи токенов и охватывающей 7 миллиардов параметров.

Ну, во-первых, 7 миллиардов токенов это мало для серьёзных задач (Исключение составляют лучшие на данный момент модели типа llama3), а во-вторых контекст в 4к токенов это ужасно мало. У той же лламы он 16к.

Выглядит это всё как какое-то грантопильство на популярной нынче теме, если честно. Ну да и ладно, красношляпу не жалко, и её деньги тоже.