Changeset 448b65 in git


Ignore:
Timestamp:
Nov 20, 2013, 10:19:07 AM (9 years ago)
Author:
Hans Schoenemann <hannes@…>
Branches:
(u'jengelh-datetime', 'ceac47cbc86fe4a15902392bdbb9bd2ae0ea02c6')(u'spielwiese', '5bec8f88c9ee2573d328cf7c3aff2bcb301d2395')
Children:
3fd3f31590cf8b9f431551f3e01e9e7d80ab6bcf
Parents:
60110589ad662f73a8d1ce726f2441e594383bfd
Message:
chg: normalize extgcd to lc=1
File:
1 edited

Legend:

Unmodified
Added
Removed
  • factory/cf_gcd.cc

    r601105 r448b65  
    401401      {
    402402        Off(SW_USE_NTL_GCD_0);
    403         r=extgcd(f,g,a,b);
    404         On(SW_USE_NTL_GCD_0);
     403        r=extgcd(f,g,a,b);
     404        if (isOn(SW_RATIONAL))
     405        {
     406          a/=r.lc();
     407          b/=r.lc();
     408          r/=r.lc();
     409        }
     410        On(SW_USE_NTL_GCD_0);
    405411      }
    406412    }
     
    417423      {
    418424        Off(SW_USE_NTL_GCD_0);
    419         r=extgcd(f,g,a,b);
    420         On(SW_USE_NTL_GCD_0);
     425        r=extgcd(f,g,a,b);
     426        if (isOn(SW_RATIONAL))
     427        {
     428          a/=r.lc();
     429          b/=r.lc();
     430          r/=r.lc();
     431        }
     432        On(SW_USE_NTL_GCD_0);
    421433      }
    422434      return r;
Note: See TracChangeset for help on using the changeset viewer.