conversions.stp: new kernel_string_quoted() function

Just like user_string_quoted(), the new kernel_string_quoted() function
returns the resulting string in quotes if it successfully retrieved the
string and the pointer address otherwise.

Merge branch 'ajakop/16300'

count max statements in probes in translate.cxx

translate.cxx: counts the maximum number of statements expected
to be executed for each probe, in pass 3. results are printed when
verbosity is > 1. probes with for/foreach statements have a
reported statement count of ~0.

listing_mode.exp: use stap itself to get addr of vfs_read

On older platforms, the addresses obtained from /proc/kallsyms show up
as 0 for non-root users. So instead, we use stap itself to retrieve the
address of vfs_read which is later used for testing.

listing_mode.exp: don't test Java probes if unsupported

If stap was not built with Java support, then we shouldn't test them.

lib/systemtap.exp: add callee_probes_p proc

Rather than checking for the conditions for callee support in various
testcases, add a callee_probes_p proc in lib/systemtap.exp and use that
instead where needed.

lib/systemtap.exp: rename hw_breakpoint_p to hwbkpt_probes_p

To be more consistent with the other procs in lib/systemtap.exp which
check whether certain types of probes are supported, rename
hw_breakpoint_p to hwbkpt_probes_p.

listing_mode.exp: use plt_probes_p proc

This is a follow-up to commit 96f91ef. Use the already given
plt_probes_p proc rather than rechecking archs.

vars.exp: only parse out from first line of grep

There can be multiple _stp_snprintf lines, in which case, the resulting
values for vars and parms can hold the same variables multiple times,
thus throwing off the test (see RHBZ1099757#c4).

Fix this by only using the first line output from grep.

listing_mode.exp: don't test plt probes if unsupported

On some architectures, plt probes are not supported. Check for those and
skip testing them if so.

listing_mode.exp: relax process.function(0xabcd) probes

Using a process.function(0xabcd) may still cause prologue searching to
occur on older platforms (for GCC < 4.5) due to possibly bad debuginfo
in the prologue (see e.g. commit 277a2b9 and GDB's PR13777).

Thus, the resulting probe from a process.function(0xabcd) might not
match the exact address given if it has been adjusted by
prologue-searching. So we relax the requirement by simply checking that
the address printed in a proper hex format.

listing_mode.exp: don't test HW bkpt probes if unsupported

We check if HW breakpoint probes are available on the machine during
testsuite setup and use the new hw_breakpoint_p proc in listing_mode.exp
to check if these probes should be tested.

listing_mode.exp: don't test callee probes if unsupported

We skip testing callee probes if the platform doesn't support it
(depending on GCC and elfutils version).

listing_mode.exp: use readlink -f instead of realpath

The realpath executable is not available in older coreutils.

listing_mode.exp: add subtests for ENUMERATED lineno types

statement.exp: remove mentions of RANGE

Since commit f01d4ff, we now no longer have a RANGE lineno_type. So
let's remove mentions of it to avoid future confusion and replace it by
the new ENUMERATED lineno type. Also clear up subtest names.

stmt_rel.exp: relax requirement for PASS

We previously required that all linenos accessible through wildcards
were the same set as all linenos individually accessible through
relative numbering.

The issue is that two linenos may correspond to the same address (e.g.
due to optimization), in which case a wildcard probe would only pick up
the first lineno (since the second lineno would be eliminated due to
being the same address), which two individual relative probes for these
two linenos would both resolve.

So instead, this test now simply checks that all the linenos which were
found in the wildcard probe were also accessible through relative lineno
(i.e. a subtest test instead of equality test).

PR16716 partial fix: Fix types in syscall.{fchdir,mkdir,mkdirat}.

* tapset/linux/syscalls.stp (syscall.fchdir): Fixed types.
  (syscall.mkdir): Ditto.
  (syscall.mkdirat): Fixed types and added 'dirfd_str' convenience
  variable, to match syscall.{faccessat,fchmodat,fchownat,etc.}.
* tapset/linux/nd_syscalls.stp: Similar changes.
* testsuite/systemtap.syscall/dir.c: Added more tests.
* testsuite/buildok/syscalls-detailed.stp: Added test for 'dirfd_str'
  variable of syscall.mkdirat.
* testsuite/buildok/nd_syscalls-detailed.stp: Ditto.

cast-scope.exp: KFAIL dyninst on ppc unoptimized

The cast-scope.exp test fails on ppc64 for unoptimized code due to
stapdyn's inability to retrieve all registers (PR15614). So we KFAIL it.

loc2c: make u_fetch_register() respect CONFIG_COMPAT

If CONFIG_COMPAT is defined, then it is possible to be running 32/31-bit
tasks on a 64-bit kernel. In such cases, we need to ensure that the
values returned from u_fetch_register() are 32-bit friendly.

Thus, we mask whatever pt_regs_fetch_register() returns.

Fix BZ1099555 by reworking gtod.exp.

* testsuite/systemtap.base/gtod.exp: Rework so that we don't care about
  what order the output comes. All we care about now is the variance
  between the kernel's time and systemtap's time.
* testsuite/systemtap.base/gtod.c (main): Print the iteration number first.
* testsuite/systemtap.base/gtod.stp: Ditto.

stap.1, stappaths.7 man pages: minor text improvements

stap.1 typo fix

PR15123 still encontered: mention workarounds in error::dwarf.7stap man page

configure.ac: Tolerate relative elftuils src path and add autoreconf -i hint.

configure: Regenerated.

stap -V version string: include build-time elfutils version

We have some translator facilities that are based on _ELFUTILS_PREREQ,
a compile-time elfutils version check.  Others might change behavior
based on the run-time elfutils version.  These versions may differ,
as the system elfutils libraries are upgraded without stap being
rebuilt.  This patch changes stap -V to report both run-time and
build-time elfutils versions (if they are different).

Update gtod.exp for BZ1099555 to make output more clear.

* testsuite/systemtap.base/gtod.exp: Split test into 3 sub tests so that
  failures can be more easily identified.

PR17027: adapt pr16806.exp for RHEL6

This test failed on RHEL6 for two reasons:
- The 'timeout' program doesn't support non-integer arguments
- We assumed the uprobes module was already inserted.

Fix the first by changing the timeout to 1s (I verified that this
doesn't change the lethality of the test under the right conditions).

Fix the second by doing a sample run first to allow stap the chance to
self-compile and pass the uprobes module to staprun -u.

man/stapprobes.3stap: add blurb about ENUMERATED

NEWS: add blurb about ENUMERATED

dwflpp.cxx: pass linenos vector by reference

This is a follow-up to commit f01d4ff. Pass linenos vector by reference
and remove unused variable range_it.

statement probes: add ENUMERATED lineno_type

This patch adds support for statement probes of the form

   .statement("foo@file.c:1,3-4,6")

The statement.exp testcase is expanded to cover this new type.

dwflpp::literal_stmt_for_local add details for retrieve attribute errors.

dwflpp::die_location_as_function_string don't mix std::string and char *.

Especially using the result of string.c_str() after string goes out of
scope is not adviced.

systemtap_session::modules_must_be_signed might use uninitialized memory.

statm >> status might not actually assign anything to status.
operator >> on ifstream doesn't assign anything the underlying file
doesn't exist. So status will just have random contents that happened
to be on the stack. Make sure to initialize status first.

Extra details to explain the error or provide alternatives to the user.
Each one printed after the main error message and tokens aligned on
separate lines. Just push_back anything you want that better explains
the error to the user (not meant for extra verbose developer messages).

Use it for the new explanations of the "not accessible at this address"
errors. Split in die_location_as_string, die_location_as_function_string
and suggested_locations_string.

Report address locations where things are accessible in error message.

Instead of just saying "not accessible at this address" tell at which
addresses the location is accessible. Uses dwarf_getlocations which
requires elfutils 0.158+ (if not available, just don't suggest anything).

Fix accessible at this address error message crash.

commit 6fcc2aa1 "Improve not accessible at this address error message"
introduced a regression by crashing when the debugfile couldn't be found.

pr16719.exp: Use /bin/ls, not /usr/bin/ls which might not exist.

execve.exp: don't double quote result_string.

Improve not accessible at this address error message.

Add dwflpp::pc_die_location_as_string and dwflpp::pc_die_location_as_string
to provide more human readable PC and DWARF DIE offset names and source
locations (including which function was inlined where) to help track down
why an argument or variable isn't accessible at a certain address.

Fixed BZ1099791 by updating the runtime to correctly find the vdso.

* translate.cxx (find_vdso): Add comment mentioning the logic in
  _stp_vma_match_vdso needs to match.
* runtime/vma.c (_stp_vma_match_vdso): Add logic from find_vdso() to parse
  the path, looking for the vdso.

PR16716 partial fix: Fix types in syscall.epoll_{create,ctl,pwait,wait}.

* tapset/linux/syscalls.stp (syscall.epoll_create): Fix types.
  (syscall.epoll_ctl): Ditto.
  (syscall.epoll_wait): Ditto.
  (syscall.epoll_pwait): Add convenience variables.
* tapset/linux/nd_syscalls.stp: Ditto.
* tapset/linux/aux_syscalls.stp (_opoll_op_str): Updated and improved.
  (_epoll_create1_flag_str): Ditto.
* runtime/linux/compat_unistd.h: Added __NR_compat_epoll_wait.
* testsuite/buildok/syscalls-detailed.stp: Add test for new epoll_pwait
  convenience variables.
* testsuite/buildok/nd_syscalls-detailed.stp: Ditto.
* testsuite/systemtap.syscall/poll.c: Add more error testing.

fixed typo in proc_by_pid.exp that caused an error

Typo caused a variable to be treated as an array, which
only arose when trying to set a runtime flag for the test case.

dwflpp.cxx: check addr returned by lower_bound()

This is a follow-up to commit 71b8e66. The lower_bound() function
returns an iterator to the first addr which does not compare less than
the entrypc. This means that the returned addr is either equal or
greater than the entrypc (depending on whether the latter is in the
vector).

This patch simply checks that the addr returned by lower_bound() is
equal, not just greater or equal.

Merge branch 'master' of ssh://sourceware.org/git/systemtap

edited the description for -x in man page

dwflpp.cxx: use lower_bound() instead of manual binary search

This is a follow-up to commit 1d50099. We previously implemented our own
binary search to find the line record associated with the function's
entrypc. To be on the safe side, we instead rely on lower_bound() for
binary searching, which will pick the first element in a range of equal
addresses, thus avoiding issues such as BZ1099133.

Add ia64-specific syscall tapset fix.

* tapset/linux/nd_syscalls2.stp: Remove extra _ia64_pipe[01] functions,
  just use the functions in syscalls2.stp.

Update syscall tapset for rawhide (3.15.0-0.rc5.git3.1.fc21.x86_64).

* tapset/linux/syscalls.stp (syscall.ioctl): Update for rawhide.
* tapset/linux/syscalls2.stp (syscall.compat_utime): Ditto.

BZ1099133: prologue searching: check previous line too

We perform binary search to retrieve the line record matching the
entrypc. However, we may by chance fall on the second of two line
records for the same entrypc. Check for this after binary search is
done.

changed check for -x PID, added tests

session.cxx: revised approach to checking path for given PID

checks that the path produced from a given PID is valid using
readlink(). added in new error messages to be more specific.

tapsets.cxx: fixed spelling mistake

proc_by_pid*: test files

BZ1099825: probe_by_pid.exp: small tweak in C program

Since PR6941 (commit 277a2b9), prologue-searching is skipped for
optimized code. However, we do not skip it for GCC < 4.5, which may
provide bad location info (see GDB's PR13777).

On RHEL6, this testcase was failing because prologue-searching was not
skipped, and fell inside the loop in main(). To allow for a safe landing
zone, we slightly tweak the C program so that there is a safe
instruction to land on post-prologue that is not in the loop.

Relax static-probes.d input file syntax.

* dtrace.in (dtrace_bnf): Allow probe_ident to start with any alphanumeric.
  Make trailing probe declaration ';' optional.
  (_PypProvider::probe_write): Improve error messages.

infer process path with -x PID

session.cxx: interpret -x PID as /proc/PID/exe
tapsets.cxx: changed error messages
stap.1: updated man page

Don't give predefined types special treatment.

* dtrace.in (dtrace_bnf):  Remove type_spec.  Handle all types as type_name.

Fixed BZ1100813 by fixing build errors in nfsd.stp.

* tapset/linux/nfsd.stp (__rqstp_uid): Fix pointer casting, needed by
  32-bit platforms.
  (__rqstp_gid): Ditto.

PR16991: tweak output for UNKNOWN root dentry; add hex address

Fixed PR16991 by avoiding an inifinte loop in task_dentry_path().

* tapset/linux/dentry.stp (task_dentry_path): Return "UNKNOWN" for
  unmounted synthetic filesystems.
* testsuite/systemtap.base/task_dentry_path.exp: New file.
* testsuite/systemtap.base/task_dentry_path.sh: Ditto.
* testsuite/systemtap.base/task_dentry_path.stp: Ditto.

BZ1099472: cast-scope.exp: adjust relative lineno

BZ1099757: vars.exp: fix and strengthen

Since PR16615 (merge commit 4636ca3), linenos in statement probes have
become more precise and stringent. As a result, vars.exp was failing
because it was trying to probe a statement at a lineno with no line
records.

We fix this by first retrieving the first valid lineno using stap -l.
The test has also been refactored in general to be more robust. We can
now more easily add more functions to test (e.g. we now test both
bio_copy_user() and vfs_read()).

man/stapprobes.3stap: clarify relative linenos

Since PR16615 (merge commit 4636ca3), relative line numbers are relative
to the decl_line of the function. Adjust man page to reflect this.

tapsets.cxx (trivial): clear up comment

We used to support both kernel mode and user mode before, but no more.
Update comment to not cause confusion.

dwflpp (trivial): fix missing _F()

NEWS: add blurb about PR16941

Merge branch 'jlebon/listing' (PR16941)

Merge branch 'jlebon/library' into jlebon/listing

list.exp: fix regexes and strengthen

Fix regular expressions so that we expect the full path from stap rather
than just process("stap"). Also strengthen the testcase by making
matches against all output lines, rather than just checking if a single
line matches.

derive_probes(): properly handle optionality

We previously overrode a location's optionality if it was derived from a
globby process probe. However, this causes further probe points to be
derived to also be optional, even though the 'higher level' probe point
had its optionality restored to what the user really wants. The end
result was that we would list probes as not optional even though the
endpoint probe was optional.

What we really mean when we say process probes born out of a higher
globby process probe should be optional is that only some of the matched
binaries will actually resolve, so it's OK if some don't resolve.
However, those that *do* resolve should respect the user's wish with
regards to optionality.

To do this, we must not override the probe_point's optional flag in
derive_probes.

This is mostly a cosmetic change, although some runtime elements do rely
on optionality to decide whether to emit a warning upon failing to
register a probe.

This patch also makes process.library probes born out of a higher globby
library probe follow the same logic.

labels.exp: adjust lineno

library probes: update stapprobes(3stap)

Clarify that we normally search among NEEDED libraries but that
non-NEEDED libraries are also supported.

label probes: rework logic

Ever since PR16615 (merge commit 4636ca3), statement/function probes
where we specify the full "func@file:N" have been too precise for label
probes.

Imagine the following C program:

   ...
   <expression-statement>
mylabel:
   <expression-statement>
   ...

The line at which 'mylabel' occurs is not actually associated with any
line records. Thus, when using the new iterate_over_srcfile_lines(),
specifying the lineno of the label results in no records found, whereas
prior to PR16615, the next lineno would be picked up.

Regardless, the previous mechanism of using iterate_over_srcfile_lines()
to then call back to query_srcfile_label() which in turn called
iterate_over_labels() was a roundabout way of making sure that the
specified lineno lies in a filtered function's DIE.

We now rework iterate_over_labels() to directly handle lineno matching
when necessary. Supported cases:

process.function("foo@file.c:N").label("*")
   --> matches label in foo at N

process.function("foo@file.c+N").label("*")
   --> matches label in foo at N + decl_line of foo

process.function("foo@file.c:N-M").label("*")
   --> matches labels in foo between N and M

process.function("foo@file.c:*").label("*")
   --> matches all labels in foo

This patch also pushes down the priority of "func@file:N" type probes so
that if a .label or .callee[s] is present, then the relevant
iterate_over_*() is called, rather than iterate_over_srcfile_lines().

library probes: suggest libraries on mismatch

Suggest from the iterated libraries if no matching libraries were found.

alias probes: mark final aliases as well-formed

When building probes from aliases, we mark them as well-formed if they
reached their final derivation so that in listing mode, we stop at this
final alias form.

library probes: also try non-NEEDED libraries

This patch adds back support for non-NEEDED libraries even when the user
supplied a non-canonical path. However, a WARNING is emitted to notify
the user. This WARNING can be suppressed by specifying the fully
resolved path to the library.

process probes: throw error upon unresolved executable

When find_executable() fails to resolve something, it simply returns the
same path it was fed. Depending on the context, the caller may be able
to deal with an unresolved path.

In the case of process probes for dwarf_builder and other base_query
users, dealing with it meant simply that the dwflpp failed to find the
executable which meant iterate_over_modules() never even took off (and
we thus yielded the good ol' "no match" error).

However, in the case of library probes, this may not always work because
if the library path is fully specified, we will switch to it without
resorting to iterate_over_libraries() (see also previous patch) and
without ever actually checking if the process path was fully resolved,
thus allowing a probe such as the following to be created:

process("garbage").library("/full/path/to/library.so").function("foo")

So instead, we add explicit checks to verify that process probes were
properly resolved by find_executable(). As an added benefit, users get a
clearer reason of why the probe point failed:

BEFORE:

semantic error: while resolving probe point: identifier 'process' at <input>:1:7
        source: probe process("asdf").library("mylib.so").function("foo") {}
                      ^

semantic error: no match

AFTER:

semantic error: while resolving probe point: identifier 'process' at <input>:1:7
        source: probe process("asdf").library("mylib.so").function("foo") {}
                      ^

semantic error: cannot find executable 'asdf'

library probes: strengthen library path resolution

One of two things happens to library probes the first time we enter
dwarf_builder::build():
   - If the full path can be resolved using find_executable(), then we
     would right away switch focus to the library, rather than the
     process.
   - Otherwise, we would focus on the process and then use
     iterate_over_libraries() to find a library match.

These decisions are made in two spots: in dwarf_builder::build(), prior
to creating the dwflpp object, and in base_query::base_query().

When we resort to iterate_over_libraries(), new probes are created for
each matching library. And since the path inserted in those new probes
is the full path, find_executable() will find it upon recursing into
dwarf_builder::build().

One issue is that if find_executable() succeeds on the first time, we
will focus on the library, regardless of whether the library is NEEDED
or not. Whereas if find_executable() fails, only NEEDED libraries could
ever be picked up by iterate_over_libraries().

This is mostly fine, except that it creates an inconsistency. For
example, let's say executable 'bar' depends on 'libfoo.so' located in
/lib/. Doing a "libfoo.so" library probe would prioritize a libfoo.so
file in the current directory before the one in /lib/, which is the
'real' one. On the other hand, doing "libfoo.*" would match the
libfoo.so file in /lib/ because of the glob char.

It also fixes the potential issue of having a fully specified library
path with a bad process path: we would focus on the library yet in
query_module() try to iterate_over_libraries() on the library, thinking
that the library was not resolved.

In this series of patches, we change the behaviour as follow
   - Only switch to the library on the first entry of
     dwarf_builder::build() if the path is already fully resolved.
     Otherwise, always use iterate_over_libraries().
   - If iterate_over_libraries() fails, then try a direct
     find_executable() invocation, and warn that the found library is
     not a NEEDED one.

This patch does the first part only. The second part is done in the next
patch.

library probes: don't add libraries to visited_modules

The dwarf_query's visited_modules set is used to keep track of which
modules are visited for suggestions. It works by emptying out the visited
modules into the dwarf_builder's modules_seen after we're done iterating
through the modules. By the end, modules_seen contains the full list of
modules to suggest from.

Since .library(glob) probes resolve to multiple probes for each matching
library, dwarf_builder's modules_seen will already pick each of them up
from the individually created dwarf_query objects.

So in the end, the modules_seen from which we make suggestions will
already contain them.

java probes: mark initial pp as well-formed

probe: remove unused create_alias() function

dwarf_query: tweak final_function_name() signature

Almost all of the users of final_function_name() call it with a const
char* for the filename, rather than a string. There may be cases where
the filename is NULL (e.g. if the function was derived using the
symtab), in which case we don't want to cast to a string.

query_srcfile_line(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_plt_statement(): add well-formed probe point

If the user provides a .plt[(string)] probe, then we'll end up in
query_one_plt during plt iteration, in which we create a specific_loc
where we replace the possibly globby string with the found plt. Mark
this specific loc as well-formed.

If the user provides a .plt[(string)].statement(number) probe, then
we'll end up in query_plt_statement() directly, in which case we need to
create the final well-formed probe point in which we omit the .plt part.

query_inline_instance_info(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_func_info(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_addr(): add well-formed probe point

We create the final well-formed probe point before actually creating the
derived probe.

query_label(): add well-formed probe point

The probe points created in query_label() are already well-formed. We
use the new interface installed in dwarf_query to simplify it.

query_callee(): add well-formed probe point

The probe points created in query_callee() are already well-formed. We
use the new interface installed in dwarf_query to simplify it.

dwarf_query: add probe point editing helper functions

As mentioned in the previous commit, these functions will help us to
modify the newly mounted probe point into a well-formed one.

dwarf_query: add mount/unmount_well_formed_probe_point()

In commits e772a6e and 9891c54, we improved the way query_callee() and
query_label() add intermediate probes to the derivation chain by playing
with the dwarf_query. This technique will be required many times in
other places that we will need to fix up.

Therefore, we create two new dwarf_query helper functions. The
mount_well_formed_probe_point() function simply sets the current
base_loc and base_probe of the dwarf_query object to a new one, which is
denoted well-formed.

At first, this new location is simply a copy of the previous location,
with the exception of a fully resolved process/module path. Then,
depending on the probe point type, specific functors are replaced by
their final/non-globby versions to create a truly well-formed probe
point.

More helper functions to edit the functors will be added in the next
patch.

The unmount_well_formed_probe_point() refocuses the dwarf_query to the
previous base_loc/base_probe so that further probe points can be
derived.

kprobe_builder: remember the .call component

Although it doesn't make a difference, we remember whether .call was
specified and include it in the created probe so that it is listed as
well.

There's no need to mark it well-formed. It is the last destination, and
it is already well-formed.

sdt_query: set well-formed intermediate probe

The specific_loc intermediate probe created in
sdt_query::convert_location() is already well-formed. We mark it as such
so that listings will use this probe.

perf_builder: add well-formed intermediate probe

hwbkpt_builder: add well-formed intermediate probe

simplify derived_probe::script_location()

Rather than relying on yucky heuristics, we go the explicit way. The
script_location() function now relies on the new probe_point member
'well_formed', which is true if the probe point represents the 'final'
script-level expression, after wildcard expansion.

Since only each individual probe builder knows what constitutes a
well-formed probe point, it will be up to those to set the 'well_formed'
flag as needed. If the probe point that we want to list is also the
final one, which is the case for many simpler probe points, then no
further work is needed. The following patches modify the appropriate
builders to do just this.

listing_mode.exp: new testcase

listing_mode.exp: rename to listing_mode_sanity.exp

nd_syscall.exp: fix SYSTEMTAP_DEBUGINFO_PATH override

This is a follow-up to commit 27ce133. Tcl's exec proc can't handle env
var setting as part of its args:

couldn't execute "SYSTEMTAP_DEBUGINFO_PATH=/dev/null": no such file or
directory
FAIL: testsuite/systemtap.syscall/nd_sys.stp compilation

We need to explicitly manipulate the env array to set the
SYSTEMTAP_DEBUGINFO_PATH and then restore it afterwards if needed.

Improve BZ16956 by testing nd_syscall tapset without debuginfo.

* testsuite/systemtap.syscall/nd_syscall.exp: Make sure the nd_syscall
  tapset isn't using debuginfo by setting SYSTEMTAP_DEBUGINFO_PATH to
  /dev/null.

Fix BZ16960 by handling !CONFIG_USER_NS better.

* buildrun.cxx (compile_pass): Convert the from_kuid_munged() test to a
  compile test, instead of an export test.
* runtime/linux/runtime.h: Restore original CONFIG_USER_NS support.
* runtime/linux/autoconf-from_kuid_munged.c: New autoconf test.