^ CUDA — очень важная тема. Отсюда и вниз. Можете освежить.
Проприетарность: полный контроль NVIDIA.
NVIDIA CUDA — закрытая экосистема для вычислений. Без нее A100 — просто дорогая грелка.
NVIDIA TensorRT — оптимизатор ИИ-моделей, опять же проприетарный.
NVIDIA cuDNN — библиотека для глубинного обучения (закрытая).
NVIDIA NVLink / NCCL — закрытые технологии взаимодействия между картами.
NVIDIA vGPU — виртуализация мощностей, тоже привязанная к лицензиям.
NVIDIA Management Library (NVML) — низкоуровневое управление картой, в проприетарном API.
Вывод: без их софта A100 не работает в полной мере. Весь контроль за вычислениями в руках у NVIDIA.
У ЦРУ и моссада....
Сравнение GEMM (CPU vs CUDA)...
CPU GEMM (1024x1024): 2638.69 мс
CUDA GEMM (1024x1024): 1.5769 мс
Разница есть.
Конечно — CUDA это C и С++. Николя их очень любит.
Но надо понимать также что CUDA — это надстройка над C/C++, добавляющая возможности параллельного программирования для работы с GPU.
NVIDIA расширила стандартный C/C++, добавив специальные директивы, типы памяти, API и концепции многопоточного программирования.
Поэтому все немного сложнее....
CUDA (Compute Unified Device Architecture) — это параллельная вычислительная платформа от NVIDIA, которая позволяет использовать GPU для вычислений общего назначения (GPGPU). В отличие от CPU, где выполняются несколько потоков (threads) на нескольких ядрах, CUDA позволяет запускать десятки тысяч потоков одновременно.
И в CUDA — я потестил. Очень слабо умеют текущие версии всех нейросетей.
Grok, GPT, Deepseek, mistall.
Сотни ошибок. Неумение работать с потоками. Вообще не понимают что такое Grid, Block, Thread....
Мало кто понимает сегодня — ну вот так в обществе знаете.
Что видеокарта это уже не видеокарта. И для графики она в мире слабо используется.
GPU по факту название рудиментарное.
Graphics Processing Unit. Графическая процессорная единица.
Сегодня это всякие параллельные вычисления. Нейросети разумеется.
Криптография.
Большие кластеры суперкомпьютеров. И мало кто вообще умеет пользоваться —
Своей видеокартой в ноуте или на компе.
Почти все уже умеют в пайтон. Но никто не умеет в CUDA....
Вы даже не представляете что начнется — когда нейросети научатся грамотно писать на CUDA -
Для тонкого использования GPU.
Вы даже не представляете что начнется — когда нейросети научатся грамотно писать на CUDA -
Для тонкого использования GPU.