atoi とは

The  atoi() function converts the initial portion of the string pointed to by nptr to int representation.

It is equivalent to: (int)strtol(str, (char **)NULL, 10);

The strtol() function returns the result of the conversion, unless the value would underflow or overflow. If an underflow occurs, strtol() returns LONG_MIN. If an overflow occurs, strtol() returns LONG_MAX. In both cases, errno is set to ERANGE. Precisely the same holds for strtoll() (with LLONG_MIN and LLONG_MAX instead of LONG_MIN and LONG_MAX).

具体的にオーバーフローが発生する入力値

• "9223372036854775811"
• "-92233720368547758090000"

atoiの実装方針

1. 入力された文字列に対して、先頭文字のアドレスから isspace(3) で定義されている空白文字に該当する場合、'+' か '-' または '0' ~ '9' の文字が出現するまでアドレスを進める。
2. 1 で詰めた先のアドレスが '+' または '-' であれば、符号の情報を保持して次のアドレスに進める。
3. 最終的な結果を返す値を格納する変数を用意して、0 で初期化する。
4. 最終的な結果を返す値を格納する変数の値を 10 倍する。
5. 現在のアドレスに char 型の '0' ~ '9' に該当する値が格納されていれば、char 型の '0' ~ '9' を int 型の 0 ~ 9 に変換する。
6. 3 で用意した変数に 5 で変換した値を足して次のアドレスに進む。
7. null 文字まで 4 ~ 6 を繰り返す。

atoiの実装

C#include <errno.h>
#include <limits.h>

static int  ft_isdigit(int c)
{
    return ('0' <= c && c <= '9');
}

static int  is_overflow(int sign, unsigned long num, unsigned long x)
{
    unsigned long   cutoff;

    if (sign > 0)
        cutoff = LONG_MAX;
    else
        cutoff = (unsigned long)LONG_MAX + 1;
    return (cutoff / 10 < num || cutoff - num * 10 < x);
}

int ft_atoi(const char *str)
{
    int             sign;
    unsigned long   temp;
    unsigned long   res;

    ...

    res = 0;
    while (*str && ft_isdigit(*str))
    {
        temp = *str++ - '0';
        // For positive numbers, SIGN is assigned 1. For negative numbers. SIGN is assigned -1.
        if (is_overflow(sign, res, temp))
        {
            errno = ERANGE;
            if (sign > 0)
                return ((int)LONG_MAX);
            return ((int)LONG_MIN);
        }
        res = res * 10 + temp;
    }
    return ((int)(sign * res));
}

• num が cutoff / 10 より大きい値であれば、次の ft_atoi 内のループで num は 10 倍されるため、オーバフローまたはアンダーフローが発生します。
• cutoff - num * 10 < x の条件を満たさない場合、ft_atoi 内の res = res * 10 + temp; の処理でオーバーフローまたはアンダーフローが発生します。