суббота, 22 июля 2006 г.

Из вопросов теста: "точность типа double precision"

> укажите точность типа double precision (максимальное число знаков)
> ответил 17, а в качестве правильного ответа указано 15
> зашел в IBE, проверил:
> select cast(CAST(1123 as DOUBLE PRECISION)/1233451 as varchar(100)) from
RDB$DATABASE
> 0.0009104536783382559
> 16 знаков-то, как ни крути :)

16-ый знак не гарантируется.
Т.е. он может быть показан не для всех чисел

--
Хорсун Влад

Комментариев нет: