Публикации с тегом числа с плавающей точкой
Линейка для чисел: как я собрал каталог из 83 форматов с плавающей точкой — и почему у каждого есть честная статус-метка +5
От золотого сечения до троичности Брусенцова: одно семейство числовых форматов от 2 до 1024 бит +6
Квантизация с нуля: как запустить 160ГБ LLM на ноутбуке и не потерять в качестве +23
Об ошибках округления и способах борьбы с ними +24
Арифметика с плавающей точкой без ошибок
Числа с плавающей точкой для гуманитариев. Что это такое и как они работают +28
- Mathematics
- Computer hardware
- History of IT
- CPU
- C
- Компьютерное железо
- Процессоры
- Программирование
- Математика
- История IT
Как работать с числами с плавающей точкой в Python +21
Альтернатива стандарту IEEE754 -4
Всё, точка, приплыли! Учимся работать с числами с плавающей точкой и разрабатываем альтернативу с фиксированной точностью десятичной дроби +17
