[Erlang] Арифметика фиксированной точности
От: Шубин Евгений Россия http://erladvisor.blogspot.de/
Дата: 29.05.12 12:32
Оценка:
Понадобились простейшие операции с целыми числами (32 бита): сложение, сдвиг.
Можно ли в Эрланге как-то ограничить точность вычислений 8, 16, 32 ... битами как в C.
Способ взятия остатка от деления (rem) плохо работает с отрицательными числами.
Пока написал NIF.
erlang precision
 
Подождите ...
Wait...
Пока на собственное сообщение не было ответов, его можно удалить.