Обмеження точності чисел у мові програмування tcl

Alexander Gladun
Alexander Gladun
20 بار بازدید - ماه قبل - За загальноприйнятими правилами математики округлення
За загальноприйнятими правилами математики округлення чисел відбувається наступним чином: коли розряд менше 5, тоді число, що округляється просто відсікається, коли ж розряд, до якого здійснюється округлення, рівний 5 або більше, тоді до числа додається одиниця. У мові програмування tcl, як і у будь якій іншій мові програмування, є засоби для округлення чисел. Найбільш простий спосіб округлити число, тобто обмежити його точність до заданої, це помножити його на степінь основи, округлити до цілого числа, та розділити на степінь основи. До прикладу, якщо потрібна точність до сотих числа, то потрібно число помножити на степінь основи, що приведено до другого степеню, округлити його та знову розділити на основу числа, що приведена до другого степеню.
ماه قبل در تاریخ 1403/04/09 منتشر شده است.
20 بـار بازدید شده
... بیشتر