本题考察的是不定积分的基本概念。选项A是正确的，因为不定积分表示所有原函数的集合，而原函数之间相差一个常数。选项B是正确的，因为连续函数的不定积分总是存在的。选项C是错误的，因为存在不连续函数的不定积分也存在的情况。选项D是错误的，因为 F'(x) = f(x)，而不是 f(x) + C。