Не хватает количества значащих цифр в действительных числах - DAX: Программирование

01.02.2007, 18:19

Михаил Андреев

Участник

1,300 / 239 (10)

Регистрация: 09.11.2001

Адрес: Химки, Московская область

Цитата:

Сообщение от Alenka

Дело в том, что переносили алгоритм из 1С в Axapta. В 1С - больше 16 цифр. В результате получилось, что один и тот же алгоритм в двух разных системах на одних и тех же входных данных выдает совершенно разные результаты. Причем неправильные результаты выдает именно Axapta. Порядок цифр результатов - 10^20 вместо десятков.

И что ж Вы такое считаете? 20 значащих цифр.... Это где же такая точность?

__________________
Михаил Андреев
https://www.amand.ru

« Предыдущая тема | Следующая тема »

Похожие темы
Тема	Автор	Раздел	Ответов	Посл. сообщение
Каких прав не хватает?	NNB	DAX: Администрирование	3	27.06.2008 11:19
Расчёт зарплаты «не хватает виртуальной памяти».	3oppo	DAX: Функционал	16	25.07.2005 10:12
Товарная накладная - непонятный алгоритм умножения количества на стоимость	ATimTim	DAX: Функционал	4	11.08.2004 16:59
При изменении количества в заявке ошибка создания партии.	ddadream	DAX: Функционал	0	17.10.2003 15:31
Неправильный подсчет количества в распечатке Счета	ddadream	DAX: Программирование	0	28.01.2002 12:42

Ваши права в разделе
Вы не можете создавать новые темы Вы не можете отвечать в темах Вы не можете прикреплять вложения Вы не можете редактировать свои сообщения BB коды Вкл. Смайлы Вкл. [IMG] код Вкл. HTML код Выкл.