Баг в классе SysPDFFontType2 (формирование PDF)

[Hyper]

AX 2009 5.0.1500.1313

Столкнулся с тем, что один из отчетов отказывался печататься в pdf-файл, выдавая ошибку "Attempting to read illegal array index." в методе getCMap класса SysPDFFontType2.
В строке "widthsC.value(charIdx, any2int(( cValue*72 + (pixPerInchX>>1))/ pixPerInchX))" charIdx был равен 0.

Для решения проблемы необходимо заменить строку

            if (res != 0xFFFFFFFF)

на

            if (res != -1)

Вообще интересно, что следующие строки выдают разный результат:

info(strfmt("%1", hex2int("FFFFFFFF")));    // -1
info(strfmt("%1", 0xFFFFFFFF));             // 4294967295

[George Nordic]

Хе-хе. А не есть ли число 4294967295 предельным для 32 разрядного int?

С Уважением,
Георгий

[ice]

поменяйте типы в методе hex2int() с int на int64, или создайте новый метод hex2int64()

[Hyper]

Цитата:

Сообщение от ice

поменяйте типы в методе hex2int() с int на int64, или создайте новый метод hex2int64()

Проблема-то при этом в классе SysPDFFontType2 не исчезнет, все равно код править надо.

[Hyper]

Цитата:

Сообщение от George Nordic

А не есть ли число 4294967295 предельным для 32 разрядного int?

info(strfmt("%1", 0xFFFFFFFFFFFFFFF));  // 1152921504606846975
info(strfmt("%1", 0x7FFFFFFFFFFFFFFF)); // 9223372036854775807

[ice]

Цитата:

Сообщение от Hyper

Проблема-то при этом в классе SysPDFFontType2 не исчезнет, все равно код править надо.

у переменной res поменять тип

[Hyper]

Цитата:

Сообщение от ice

у переменной res поменять тип

Нельзя. На этой строчке ругается.

    res = WinAPINative::getFontUnicodeRanges(dc, glyphSet);