[python] chyba v kodu
Jan Kundrát
jkt na gentoo.org
Čtvrtek Květen 3 18:12:24 CEST 2007
Radek Machulka wrote:
> Zkuste si to pro -5, 0 a 5 V a zjistite, ze nefunguje. Problem je, ze ve dvou
> stejnych intervalech je ruzny rozsah hex cisel (tj. 8 neni pulka z f). Kvuli
> tomu je tam ten ceil.
> Jinak nevim, co je mysleno tim "dostatecne dlouhy string" mozna, ze chyba bude
> prave tam.
Ja zase nevim, co znamenaji "divne vysledky".
ceil() je predpokladam math.ceil().
Moje funkce dava hodnoty jine maximalne o jednicku, coz je IMHO pomerne
presne. Pokud pouzijes hex(int(((inp + 5) / 10.0 * 0xffff))), dostavas
velice podobne vysledky.
Takze jeste jednou, co je "divne"?
-jkt
Další informace o konferenci Python