10. Проверка формата файла

int main(int argc, char *argv[])
{
    int len;
    char *name_file;
    char *out_file;
    FILE *fin;
    name_file = argv[1];
    if (strcmp(strchr(name_file, '.'), ".txt") != 0)
    {
        printf("Error 2.Can not open file because bad format.\n");
        return 1;
    }
    // do smth
    return 0;
}

Вариант реорганизации и исправления кода

int main(int argc, char *argv[]) 
{
    int n = 0;
    FILE *fin = fopen(argv[1], "r");
    // smth

    if (fscanf(fin, "%d", &n) != 1) {
        fprintf(stderr, "Error 2. input file has invalid format.\n");
        fclose(fin);
        return 2;
    }

    //do smth
    return 0;
}